【美国中期选举】假作真时真亦假：AI深伪内容恐令美国选民真假皆疑

候选人没说过的话，或被 人工智能（AI） 做成以假乱真的视频；真实的录音录像，也能被当事人用一句“这是AI伪造的”推翻。

距离 11月3日美国中期选举 只剩一周多，受访学者警告，虚假内容风险已不只在于误导选民，还可能令公众对真实的证据也产生怀疑，动摇政治问责所依赖的事实基础。

美国卫斯理大学政治广告研究项目最新公布的数据显示，截至10月11日，研究人员已识别220则至少部分使用AI生成的政治广告，投放支出超过1亿3700万美元（约1亿7500万新元）。虽然这不代表每则广告都含有假信息，但足以看出，AI合成内容已成为美国竞选阵营的宣传工具。

比如，在得克萨斯州，一则共和党竞选广告显示，民主党参议员候选人塔拉里科（James Talarico）拿着彩色蜡笔，在《圣经》上涂写。现实中，这一幕从未发生，却被做成逼真影像广泛传播，以攻击他的宗教与性别立场。

美国纽约州立大学布法罗分校AI与数据科学研究所所长吕思伟接受《联合早报》访问时说，2024年，人们主要担心的是冒充候选人的逼真假视频。如今，AI的用途已扩展到编造文章、冒充他人，以及通过多个社媒账号传播内容。

此外，AI工具变得更便宜、更易上手，也让操纵者能更快批量制作内容，针对地方或突发事件展开行动。

美国普渡大学政治学系副教授、治理与负责任AI实验室联席主任希夫（Daniel Schiff）受访时指出，判断这些内容会给选民带来什么影响，不能只看画面是否逼真。

希夫与研究团队分析2024年美国选举相关的深度伪造内容，发现约一半更接近艺术创作，而不是模仿真实场景，其中不少还意在美化政治人物。“即使很容易看出内容是合成的，也仍可能影响人们的信念和行为。”

希夫说，讽刺和夸张的画面可以激起愤怒，加深人们对移民等群体的刻板印象，或动员支持者。所以，即使观众知道画面是假的，也可能接受它传递的政治信息。

为了降低深伪内容对选举的风险，美国已有31个州通过相关监管法律。不过，各州对于规定在什么时段适用、如何标明AI使用情况，以及讽刺作品是否可以豁免，要求并不一致；部分条款也因涉及言论自由而受到司法挑战。

目前，美国一些州已要求广告须注明影像是否由AI生成或修改，以确保观众了解画面是如何制作的。不过，卫斯理大学媒体项目识别的220则广告中，只有27%披露使用AI。

此外，即使相关影像含有标注，观众也未必会留意。纽约大学技术政策中心2024年的一项实验发现，受试者观看的广告从头到尾都有影像修改提示，但事后仍有37%的人不记得看过提示。

对于没有主动标明的合成内容，吕思伟说，现有的侦测工具也很难完全跟上。新的生成工具不断出现，影像在传播过程中又会被压缩、剪辑，并转发到不同平台，都让辨别真伪变得更难。

吕思伟提醒，查明视频并非AI伪造，只能证明画面是真的，却不能证明相关说法属实。例如，一段真实的旧视频可能被谎称为刚发生的事件，或被冠上错误的时间、地点和人物身份，同样可以误导公众。

“我们不能把全部检测重担都压在个人身上。”吕思伟说，即使是专家，通常也须要借助工具、了解背景并核查来源。单凭眼睛看、耳朵听，已越来越难判断真假。

他认为，除了提升公众的媒介素养，平台也须及时介入，让用户能够查到内容来源，并尽快获得可靠信息和核查结果。

不过，这些AI内容究竟能改变多少选票，目前仍不清楚。纽约大学技术政策中心主任布伦南接受法新社访问时说，AI广告或有助筹款和动员支持者，但它们能否改变选民的投票选择，证据仍然有限。

吕思伟认为，眼下最须警惕的，是有人在关键时刻利用伪造内容，针对特定选民制造混乱。若这类内容在突发事件发生后、投票前夕，或计票结果尚未明朗时出现，传播速度或快过媒体和选务人员的澄清速度。即使没有传遍全国，也可能造成伤害。

希夫则说，社媒帖子下经常出现“这是AI生成的”“谁还知道什么是真的”等回应，反映出人们的怀疑可能已不再局限于假信息。他担心，当公众不知道什么可以相信、谁值得信任时，可能干脆不再关心政治。

一旦公众连真实内容也开始怀疑，政治人物便可能更容易逃避问责。例如，面对真实的录音录像，当事人可以声称“这是AI伪造的”，借此开脱。

吕思伟警告，这就是“所谓的说谎者红利”。他认为，更深远的危险是，只要AI伪造技术存在，真实证据就更容易被否认，社会也就更难凭事实追究政治人物的责任。