专家预警，2024年将成为全球范围内前所未有的选举虚假信息泛滥年。特别是由于生成式人工智能的爆炸性发展，令人无法辨别的深度造假使得虚假信息难以辨别。
今年1月，就在美国新罕布什尔州美国总统初选前几天，有数千人都接到了一个电话。
电话那头是美国现任总统乔·拜登(Joe Biden)的声音，他已经几乎肯定将获得民主党的提名，代表该党角逐2024年美国总统大选。
“你们必须将自己选票留到11月的总统大选。周二去投票只会增加特朗普胜算的几率，”拜登在电话里说。
很多人对这个消息信以为真。但其实，这并不是真的拜登，而是有人使用人工智能模仿了他的声音。
2024年1月19日，乔·拜登总统在华盛顿东厅发表讲话。新罕布什尔州总检察长办公室表示，正在调查有关人工智能骚扰电话的报道。该电话使用人工智能模仿拜登的声音，并阻止该州选民参加1月23日星期二的初选。
这是美国今年首例使用人工智能直接干扰大选的案件。而随着11月总统大选的临近，专家说，这样的案例只会越来越多。
2024年，全球有50多个国家和地区将举行大规模选举，选民人数占全球人口的一半以上。
研究人员预警，2024年将成为全球范围内前所未有的选举虚假信息泛滥年。特别是由于生成式人工智能的爆炸性发展，令人无法辨别的深度造假使得虚假信息难以辨别。
“简而言之，生成式人工智能能够放大现有的错误和虚假信息叙事，这些信息可能会影响今年世界各地的选举，尤其是那些被外国重大影响力活动盯上的选举，”非政府组织民主科技中心(Center for Democracy and Technology)高级政策分析员蒂姆·哈珀(Tim Harper)对美国之音说。
中国将进一步干预选举
今年3月，美国国家情报总监办公室发表年度报告中指出，俄罗斯和中国都可能干预2024年的美国大选，特别是使用生成式人工智能来扩大美国社会的分歧议题。
报告指出，俄罗斯使用信息战的目的是分裂西方联盟，削弱美国梦的愿景，加深美国社会的撕裂。中国此前的信息战聚焦于对华强硬的鹰派政治人物，而现在的行为也越来越像俄罗斯靠拢。
“北京积极利用美国社会分歧，这使其更接近莫斯科的影响力行动手册，”报告说，预计中国“可能试图在某种程度上影响2024年的美国大选，因为它希望排挤对中国的批评，并扩大美国的社会分歧。”
美国智库兰德公司亚洲安全议题政策研究员莫小龙(Nathan Beauchamp-Mustafaga)对美国之音说：“生成式人工智能有可能为恶意行为者在社交媒体上传播虚假信息带来革命性的变革。”
使用人工智能制作视频非常容易。以人工智能工具Synthesia为例，这个软件里面有85个形象，130种语言和口音。使用者不需要任何额外知识，就可以随意选择想要使用人的年龄、性别、岁数、种族、语音语调，几分钟内就能制造出想要的视频。Synthesia的月费最低只要30美元，制作AI视频“就像制作幻灯片一样简单，”Synthesia在网站上写道。
而这份简单在给人们提供便利的同时，也给恶意行为者提供了放大虚假信息的空间。
2023年9月，微软发布报告，指出中国进行了一项长达六个月的影响力运动，视频的主题是美国社会的分歧议题，使用人工智能生成图像，并随着时间推移不断改进图像。“我们观察到与中国有关联的行为体在广泛的活动中利用人工智能生成的视觉内容，这些活动主要关注枪支暴力等政治分歧话题，并诋毁美国政治人物和象征，”微软在报告中说。
微软的报告中举例说，这个人工智能生成图像很可能是由的中国影响力行动发布的。
2023年12月，澳大利亚战略政策研究所(Australian Strategic Policy Institute)披露了一个由至少30个频道组成的网络，利用AI制作的英语视频推广亲中反美的立场。这些帐号于2022年中期开始发布内容，并吸引了将近1.2亿次的观看。
这两份报告同时指出，利用生成式智能推广的宣传影片比起人工制作的视频拥有更好的观众互动率与关注度。莫小龙指出，这说明生成式人工智能补充了中国大外宣的一大不足。
“比如中国军方，他们知道他们在外宣上的不足是源于外语能力薄弱以及跨文化理解不透彻，”他说，“生成式人工智能为中国和其他恶意行为者提供了潜力，不仅可以更轻松地弥合语言鸿沟，还可以解决跨文化理解的挑战。”
在传播内容方面，新泽西州拉玛珀学院(Ramapo College)政治学教授陈鼎(Dean Chen)对美国之音说，过去几年美国社会的分歧不断扩大，也给了中国和其他威权政府攻击中国一个很好的说辞。
他说，今年选民们很可能将再次需要特朗普和拜登之间做出选择，而两党的政治语言也变得更为极端。在移民，通胀，持枪权等问题上，不同阵营的论调针锋相对。
“对于像中国、俄罗斯和伊朗这样的政权来说，这样的分歧简直就是绝好机会：他们能够将民主制度描绘的混乱不堪，以此来说西方批评我们的人权问题是错误的，”陈鼎补充道。
民主科技中心的哈珀说，这些论调都是此前的选举中已经存在的论调。生成式人工智能只是放大了已有的论调，但是其内容和主旨还没有变化。
“我的担忧是我们还不知道一些影响力运动将发生怎样的转变，现在还为时过早。就像我们在之前的选举中看到的那样，实时跟踪这些事情非常困难，”他说。
“我们可能要到明年才能弄清其中一些外国影响力活动的真实影响，”他补充说。
新式民主的榜样
拉玛珀学院的陈鼎指出，台湾在今年大选中抵御虚假信息的方式或许可以给美国选民提供一个好的参考。
台湾在今年1月13日举行了总统大选。选举前后的一段时间，台湾都受到了信息战的猛攻。中国不希望民进党候选人再次当选，所以在选举前使用AI虚假人散布对台湾现任总统蔡英文的不实言论，以及使用AI针对候任总统赖清德进行攻击。
请同时参阅：
中国使用“AI虚拟人”猛烈谩骂攻击台湾总统蔡英文
而大选之后，一段广为流传的视频显示有人故意将选票记在了错的候选人下方。
而实际上，登记选票的工作人员马上发现并更改了错误。虽然这样的视频也在台湾社交媒体上广泛流传，台湾选民们却没有像美国2020年选举后，出现大规模认为选票舞弊的情况。这要得益于是事实核查机构快速回应，同时台湾选举中央委员会也即时发布新闻发布会对此进行说明。
事实上，在多年的攻击下，台湾对不实信息的防御措施已经较为完备。《纽约时报》的报道说，这包括“最成熟的事实核查员群体，进行政府投资，达成国际媒体专业合作关系、以及多年来通过对中国入侵发出警告而形成的公众怀疑意识。”
陈鼎认为，其中公众的敏感度最为重要。
“保持怀疑实际上是一件好事。如果你轻易相信你听到的一切，那可能会出现问题。我认为台湾人民—我在过去几年的选举中观察到的情况，尤其是这一次—我认为他们已经变得更加成熟。在民主进程上，他们会去看候选人的政策，并且使用理性的方法来辨别虚假信息”，他说。
另一方面，他指出美国社会正在变得越来越分裂，这不利于理性的声音。学者和研究者的意见似乎被放在了一边，人们更愿意去看社交媒体上那些推送给自己的消息，而不是让理性的声音占据社会的舆论。
“美国作为一个成熟的民主国家，似乎有点过于自信了，认为民主制度能够挺过任何挑战。实际上，美国或许可以看看像台湾这样的新兴民主国家是如何应对外部挑战的，”陈鼎补说。
民主科技中心的哈珀补充说，在今年大选前抵抗虚假信息的努力中，除了增加选民的数字卫生习惯，科技公司、社交媒体、候选人以及选举官员都必须行动起来，在立法到来之前，在选举生态链中做到对人工智能的相对约束。