乌克兰YouTube主播如何被用AI“变身”俄罗斯人

奥尔加看到她的脸出现在中国社交媒体上的各种影片中。

“我不希望任何人认为我曾经说过这些可怕的话。用一个乌克兰女孩的面孔来宣传俄罗斯，这太疯狂了。”

奥尔加·洛伊克（Olga Loiek）看到自己的脸出现在中国社交媒体上的各种影片中，而这些影片由网上简易的生成式人工智能（AI）工具制作。

“我可以看到我的脸，听到我的声音。但这一切都令人毛骨悚然，因为我看到自己说了一些我从未说过的话。”这位就读于宾夕法尼亚大学（University of Pennsylvania）的21岁学生告诉BBC。

使用她肖像的账户有几十个不同的名字，如索菲亚（Sofia）、娜塔莎（Natasha）、艾普丽尔（April）和斯泰西（Stacy）。这些“女孩”说的是奥尔加从未学过的汉语普通话。在影片中，她们看上去来自俄罗斯，谈论着中俄友谊或推广俄罗斯产品。

“我看到90%的影片都在谈论中国和俄罗斯以及中俄友谊，像我们必须成为强大的盟友，还有食品广告。”

其中最大的一个账号是“娜塔莎进口食品”，其拥有30多万关注者。“娜塔莎”说着“俄罗斯是最好的国家。可悲的是其他国家都在远离俄罗斯，俄罗斯女人想要来中国”之类的话，然后开始推销俄罗斯糖果等产品。

这让奥尔加感到愤怒，因为她的家人还在乌克兰。

但在更广泛的层面上，她的案例引起了人们对这项发展迅猛的技术所带来危险的关注，如何监管和保护人们已经成为一项真正的挑战。

从YouTube到小红书

奥尔加的说普通话的AI模仿者在2023年开始出现——就在她开设了一个不定期更新的YouTube频道之后不久。

大约一个月后，她开始收到一些人的信息，声称在中国社交媒体平台上看到她说着普通话。

出于好奇，她开始寻找自己，并在中国类似于Instagram的平台“小红书”，以及类似于YouTube的视频网站哔哩哔哩（Bilibili）上发现了与她相似的AI人物。

“有很多这样的（账户）。有些账户的简介里有俄罗斯国旗之类的东西。”奥尔加说。她称，到目前为止，她已经发现了大约35个使用她肖像的账户。

在她的未婚夫在社交媒体上发布了关于这些账户的情况后，她声称被用于制作这些AI肖像的AI视频生成平台HeyGen做出了回应。

他们透露，已经有4900多个影片是用她的脸生成的，并表示该平台已经禁止再使用她的肖像。

该公司的一位发言人告诉BBC，他们的系统被侵入以创建了他们所谓的“未经授权的内容”，并补充称，他们立即更新了安全和验证协议，以防止平台被进一步滥用。

但香港大学副教授张湖月（Angela Zhang）说，奥尔加的经历“在中国很常见”。

她说，中国“拥有庞大的地下经济，专门从事仿造、盗用个人数据和进行深度伪造”。

不过，中国是最早尝试监管人工智能及其使用的国家之一。中国甚至修改了民法典，以保护肖像权免受数字伪造技术的侵害。

中国公安部门在2023年披露的统计数据显示，当局逮捕了515名涉嫌参与“AI换脸”活动的人。中国法院也审理过这方面的案件。

奥尔加发现大约有35个账户使用她的肖像。

那么，为什么会有这么多关于奥尔加的影片在网上传播呢？

原因之一可能是这些影片宣传了中俄之间的友谊。

近年来，北京和莫斯科的关系日益密切。中国领导人习近平和俄罗斯总统普京曾表示，中俄友谊“无上限”。两人本周将在中国会晤。

中国官方媒体一直在重复俄罗斯为其入侵乌克兰辩解的说辞，社交媒体也一直在审查有关战争的讨论。

“目前还不清楚这些账户是否出于集体目的而进行协调配合，但推广与政府宣传一致的信息肯定对他们有利。”博洛尼亚大学（University of Bologna）和鲁汶大学（KU Leuven）的法律与技术研究员埃米·海因（Emmie Hine）说。

“即使这些账户与中共没有明确联系，但宣传（意识形态）一致的信息可能会降低他们的帖子被撤下的可能性。”

但专家警告说，这意味着像奥尔加这样的普通人仍然处于弱势，并有可能触犯中国法律。

牛津大学（Oxford University）技术与地缘政治研究员凯拉·布隆奎斯特（Kayla Blomquist）警告说，“存在个人被人为制造的政治敏感内容陷害的风险”，他们可能会受到“未经正当程序而迅速实施的惩罚”。

她补充说，中国政府在AI和网络隐私政策方面的重点一直是建立消费者权利，使其免受掠夺性私人行为者的侵害，但她强调说，“与政府相关的公民权利仍然极其薄弱”。

海因解释说，“中国AI法规的根本目标是在维护社会稳定与促进创新和经济发展之间取得平衡”。

“虽然书面规定看似严格，但有证据表明存在选择性执法，尤其是在生成式AI的许可规则方面，其目的可能是为了创造一个更有利于创新的环境，同时默认法律为必要时的打击提供了依据。”她说。

“不是最后一名受害者”

这些AI影片激怒了作为乌克兰人的奥尔加。

但奥尔加事件的影响远远超出了中国——它显示了试图监管一个正在以惊人速度发展的行业的难度。监管机构只能不断追赶，但这并不意味着他们没有努力。

今年3月，欧洲议会批准了《人工智能法案》，这是世界上第一个限制该技术风险的全面框架。去年10月，美国总统拜登（Joe Biden）宣布了一项行政命令，要求AI开发者与政府共享数据。

布隆奎斯特表示，虽然与AI的快速发展相比，国家和国际层面的法规进展缓慢，但我们需要“对最危险的威胁以及如何减轻这些威胁有更清晰的认识和更强的共识”。

她补充说，“然而，国家内部和国家之间的分歧阻碍了切实的行动。美中是关键的参与者，但建立共识和协调必要的联合行动将具有挑战性。”

与此同时，在个人层面上，除了不在网上发布内容，人们似乎无能为力。

“唯一能做的就是不给他们任何可利用的材料：不在公共社交媒体上上传自己的照片、影片或音频。”海因说。

“但是，不良行为者总是有模仿他人的动机，因此，即便政府打击，预计我们将在监管‘打地鼠’的活动中看到持续增长。”

奥尔加“百分之百地确信”自己不会是生成式AI技术的最后一名受害者。但她决心不会因此而退网。

她在自己的YouTube频道上分享了自己的经历，并表示一些中国网友一直在帮助她，在使用她肖像的影片下发表评论，指出这些影片是假的。

她补充说，现在很多影片已经被删除了。

“我想分享我的故事，我想让人们明白，并不是你在网上看到的一切都是真实的。”她说。“我喜欢与世界分享我的想法，这些骗子无法阻止我这样做。”