女儿电话求救?声音竟是AI合成 美妈:1秒都没怀疑过

文章来源: - 新闻取自各大新闻媒体,新闻内容并不代表本网立场!
(被阅读 次)

美国亚利桑那州一名母亲德斯特凡诺(Jennifer DeStefano),之前接到一通15岁女儿贝里(Brie)的“亲口”求救电话,然后绑匪才接过电话向她勒索100万美元,她表示当时完全听不出来造假,事后才知道,原来女儿的声音竟然是AI合成的。

德斯特凡诺母女。《纽约邮报》

“那就是我女儿,我一秒钟都没有怀疑过”,据美国《纽约邮报》报导,德斯特凡诺回忆当时的过程指出,自己接电话后听到女儿的声音,对方说道“妈妈,我搞砸了”,然后开始哭泣,母亲紧张询问发生什么事,此事一个男人接过电话表示,“我绑架了你女儿,如果你打电话报警或打给任何人,我就对她注射毒品”,在母亲与绑匪对话的过程中,还不时能听到话筒另一端传来女儿“妈妈,帮帮我、救救我”以及落泪的声音。

德斯特凡诺表示,当时她与绑匪讨价还价,将金额降到了5万美元,同时还透过一名朋友的协助,确认了女儿其实平安无事,并打电话报警。她表示,在那过程中,自己真的认为女儿被绑架了,“那完全就是她的声音,连哭泣方式都是她的。”

德斯特凡诺表示,虽然女儿在社群媒体上没有上传过包括声音的档案,但女儿有接受过一些体育媒体和学校媒体的採访,裡面包括了女儿大量声音样本,怀疑因此成为歹徒的造假目标。她也提醒不要让孩子的声音在社群媒体曝光,否则更容易中招。

VGT777 发表评论于
至亲之间,彼此进行暗号约定,以便确认彼此身份,以及所处环境危险度。
duty 发表评论于
由此可见歹徒收集信息的方式太多太多,普通老百姓还是不要过分曝光才好。
paladindancer 发表评论于
就怕流氓有文化
漂亮姑娘 发表评论于
世界越来越可怕了,因为高科技落在居心不良的人手中。
0101011 发表评论于
坐等骗子掌握Deep Fake技术 ... 迟早出大事。
时不时来看看 发表评论于
西岸:您不觉得那样太容易了?FFT几十岁了,可是ChatGPT还不到一岁,搞得马斯克找1000多位“专家”高喊:等我半年。。。
sandanke 发表评论于
这个世界太可怕了
6thsense 发表评论于
以后亲人之间打电话要钱得说密码,而且密码还得不停地换。
onceawhile 发表评论于
真可怕。现在很多银行用语音验证。有可能用同样方法盗窃用户信息
Ldad 发表评论于
试过一个模拟音频软件,忘了名字,只需要很少训练就能生成我的声音。
令胡冲 发表评论于


声音很像也不容易。这歹徒需要很多时间收集、训练、定制、生成具体某个人的声音。能通过实测。基本上是个硕士课题。


SoWhatAgain 发表评论于
OpenAI 本来是用来防止AI滥用的,结果却还是被人用来滥用。