来源：澎湃新闻

记者 方晓 实习生 陈晓锐

·一些政治竞选活动开始使用AI生成的筹款邮件和宣传图像，这种现象几个月前还只是缓慢渗透，而现在已经汇聚成巨大洪流，开始改写全球民主选举的游戏规则。

·人工智能可能会加速对媒体、政府和社会信任的侵蚀，加深偏见和扩大党派分歧，使选民更深地陷入两极分化的信息泡沫中。建立新的护栏是当务之急。

女朋友、被谋杀的孩子、刺客机器人——人工智能被诅咒了吗？

比特币 ETF：Ark Invest 处于领先地位

多伦多市长选举中，保守派候选人安东尼·弗瑞（Anthony Furey）用人工智能生成的图像作为竞选材料，其中一幅图像展示了一条城市街道，街道两旁的人似乎是在建筑物旁露营的流浪者。

人工智能（AI）技术已经逐步参与政治竞选的一些环节。随着2024年美国总统大选的临近，AI技术在政治竞选中的应用越来越广泛，一些竞选活动利用AI生成的虚假图像、视频和文本来误导选民，加深偏见，破坏公平竞争。目前，美国缺乏有效的法律和监管来应对这一挑战。竞选规则的空白，给关乎美国甚至全球政治的总统大选带来巨大变数。

专家担心，这项技术可能会加速对媒体、政府和社会信任的侵蚀。一段不讨人喜欢的假视频、一段充斥着虚假故事的电子邮件，或者一幅伪造的城市衰败景象图片都可能通过向选民展示他们期望看到的东西，从而加深偏见和扩大党派分歧。人们可能更深地陷入两极分化的信息泡沫中，只相信他们选择相信的来源。这与导致特朗普上台的2016年美国大选呈现出相似的状况。

从缓慢渗透到巨大洪流

2024年的美国总统选举将是生成式AI广泛影响人类以来的首次美国大选。据《纽约时报》6月25日报道，一些政治竞选活动开始使用AI生成的筹款邮件和宣传图像，这种现象几个月前还只是缓慢渗透，而现在已经汇聚成巨大洪流，开始改写全球民主选举的游戏规则。

美国共和党全国委员会在总统拜登宣布竞选连任后公布了一段视频，其中人工智能合成的图像展示了拜登连任后的世界末日景象。(00:46)

例如，美国共和党全国委员会在总统拜登宣布竞选连任后公布了一段视频，其中人工智能合成的图像展示了拜登连任后的世界末日景象；佛罗里达州州长罗恩·德桑蒂斯（Ron DeSantis）利用AI合成图像在社交平台发布了前总统特朗普和前卫生官员安东尼·福奇博士亲密拥抱的虚假照片；民主党在春季尝试了由AI起草的筹款信息，并发现它们往往比完全由人类撰写的文案更能鼓励选民参与和捐款；4月，芝加哥市长选举中的一名候选人抱怨称，一个伪装成新闻媒体的Twitter账户使用了人工智能，以一种暗示他宽恕警察暴行的方式克隆他的声音。

一些政客认为AI技术能够帮助降低竞选成本。比如，可以使用它对辩论问题或攻击性广告做出即时回应，或者分析原本需要昂贵专家分析的一些数据。

在6月26日举行的多伦多市长选举中，保守派候选人安东尼·弗瑞（Anthony Furey）用人工智能生成的图像作为竞选材料，其中一幅图像展示了一条城市街道，街道两旁的人似乎是在建筑物旁露营的流浪者，但仔细观察前景会发现有人看起来更像是渲染而成的；另一张照片中有两个人似乎在进行重要的讨论，而左边的人有三只胳膊。尽管遭到了其竞争对手的攻击，但这些合成图片提升了弗瑞的影响力，使他在有101名候选人的市长选举中脱颖而出。

多伦多市长选举保守派候选人安东尼·弗瑞用人工智能生成的竞选材料中，左边的人有三只胳膊。

乔治城大学安全与新兴技术中心的研究员乔什·A·戈尔茨坦（Josh A. Goldstein）在一封电子邮件中写道，“健康的怀疑态度会鼓励良好的习惯（比如横向阅读和寻找可靠的来源），而这项技术可能促使人们从健康的怀疑态度转向不健康的怀疑态度，让人们认为自己不可能知道什么是真实的。”

AI如何影响2024年美国大选

美国政治顾问协会最近谴责在政治竞选中使用深度造假的内容违反了道德准则。该团体主席拉里·休恩（Larry Huynh）说：“人们会忍不住去挑战极限，看看他们能把事情做到什么程度。就像任何工具一样，它们可能会被用于不良用途或行为，来欺骗选民、误导选民、让选民相信不存在的东西。”

“如果有人能制造噪音，制造不确定性或制造虚假叙事，那可能会是一种影响选民和赢得竞选的有效方式。”布鲁金斯学会高级研究员达雷尔·M·韦斯特（Darrell M. West）今年5月在一篇报告中写道，“由于2024年总统选举可能取决于少数几个州的数万名选民，任何能够让人们朝一个方向或另一个方向倾斜的东西都可能最终成为决定性的因素。”

这篇题为《人工智能将如何改变2024年的选举》的报告提出了三个方面的问题。首先，政客可以使用生成式AI来立即响应竞选活动的发展。在未来一年，响应时间可能会减少到以分钟计，而不是几小时或几天。AI可以扫描互联网，思考策略，并提出一个强有力的呼吁，这可能是一个演讲、新闻稿、图片、笑话或视频，吹捧一个候选人优于另一个候选人的好处。

其次，人工智能可以非常精确地定位受众。候选人不想把钱浪费在那些已经支持或反对他们的选民身上，而是希望瞄准少数摇摆不定的选民。由于美国的政治两极分化率很高，只有一小部分选民表示犹豫不决。公共影响中心曾发布一份报告，指出2016年美国大选以及剑桥分析公司的数据如何被用来根据社交媒体用户的“个人心理”发送有针对性的广告。报告称：“这种方法的问题不在于技术本身，而在于竞选活动的隐蔽性及其政治信息的公然不诚实。根据对不同论点的敏感性的预测，不同的选民收到了不同的信息。”

此外，人工智能可能会为有兴趣推广其首选候选人的普通人带来工具，从而使虚假信息民主化。人们不再需要是程序员或视频专业人员来生成文本、图像、视频或程序，任何人都可以成为政治内容创作者，并寻求动摇选民或媒体。新技术还能使人将不满情绪货币化，并从其他人的恐惧、焦虑或愤怒中赚钱。

目前，人工智能技术已经比以前强大得多，虽然不完美，但改进速度快且易于学习。今年5月，OpenAI的首席执行官山姆·奥特曼（Sam Altman）在听证会上告诉参议院小组委员会，他十分担心2024年总统大选，这项技术“操纵、说服、提供一种一对一的互动虚假信息”的能力，是“一个值得关注的重要领域。”

推动建立新的“护栏”

然而，随着越来越复杂的AI生成内容频繁出现在社交网络上，这些社交网络平台大多却不愿意或无法对其进行监管。提供人工智能生成内容检测服务的Reality Defender公司首席执行官本·科尔曼（Ben Colman）说，监管空白使得未标记的AI生成内容在被解决之前就造成了“不可逆转的损害”。

“对于已经看到并分享了假内容的数百万用户来说，在事后解释这些内容是假的，不仅为时已晚而且效果甚微。”科尔曼补充道。

许多政治顾问、选举研究人员和议员表示，建立新的护栏（guardrails）是当务之急，比如制定法律来管制人工合成广告。现有的防范措施，如社交媒体规则和声称能检测人工智能内容的服务，都未能有效地遏制这股浪潮。

来自纽约的民主党众议员伊维特·D·克拉克（Yvette D. Clarke）上个月在一份声明中说，2024年的选举周期“将是第一次AI生成内容盛行的选举”。她和明尼苏达州参议员艾米·克洛布查尔（Amy Klobuchar）等国会民主党人已经提出立法，要求政治广告披露其使用人工智能生成的内容。华盛顿州最近也有一项类似的法案被签署成为法律。