女儿电话求救？声音竟是AI合成 美妈:1秒都没怀疑过

文章来源: 于 - 新闻取自各大新闻媒体，新闻内容并不代表本网立场！
(被阅读 次)

美国亚利桑那州一名母亲德斯特凡诺（Jennifer DeStefano），之前接到一通15岁女儿贝里（Brie）的“亲口”求救电话，然后绑匪才接过电话向她勒索100万美元，她表示当时完全听不出来造假，事后才知道，原来女儿的声音竟然是AI合成的。

德斯特凡诺母女。《纽约邮报》

“那就是我女儿，我一秒钟都没有怀疑过”，据美国《纽约邮报》报导，德斯特凡诺回忆当时的过程指出，自己接电话后听到女儿的声音，对方说道“妈妈，我搞砸了”，然后开始哭泣，母亲紧张询问发生什么事，此事一个男人接过电话表示，“我绑架了你女儿，如果你打电话报警或打给任何人，我就对她注射毒品”，在母亲与绑匪对话的过程中，还不时能听到话筒另一端传来女儿“妈妈，帮帮我、救救我”以及落泪的声音。

德斯特凡诺表示，当时她与绑匪讨价还价，将金额降到了5万美元，同时还透过一名朋友的协助，确认了女儿其实平安无事，并打电话报警。她表示，在那过程中，自己真的认为女儿被绑架了，“那完全就是她的声音，连哭泣方式都是她的。”

德斯特凡诺表示，虽然女儿在社群媒体上没有上传过包括声音的档案，但女儿有接受过一些体育媒体和学校媒体的採访，裡面包括了女儿大量声音样本，怀疑因此成为歹徒的造假目标。她也提醒不要让孩子的声音在社群媒体曝光，否则更容易中招。

VGT777 发表评论于
至亲之间，彼此进行暗号约定，以便确认彼此身份，以及所处环境危险度。
人间不值得007 发表评论于
很多软件都可以做到 老中还是落后啊 啥也不知道。
duty 发表评论于
由此可见歹徒收集信息的方式太多太多，普通老百姓还是不要过分曝光才好。
paladindancer 发表评论于
就怕流氓有文化
漂亮姑娘 发表评论于
世界越来越可怕了，因为高科技落在居心不良的人手中。
bluetag 发表评论于
声音很像不稀奇，但能实时用这个声音和你对话，就很可怕了。
0101011 发表评论于
坐等骗子掌握Deep Fake技术 ... 迟早出大事。
时不时来看看 发表评论于
西岸：您不觉得那样太容易了？FFT几十岁了，可是ChatGPT还不到一岁，搞得马斯克找1000多位“专家”高喊：等我半年。。。
sandanke 发表评论于
这个世界太可怕了
西岸-影 发表评论于
从技术角度来讲这是很容易做到的事情，只需要有一段你的语音，任何内容都行。
简单讲就是把任何人的语音用傅立叶变换从时域转变到频域，分离基频，然后把你的语音用同样方式的转换获得的基频转移过去叠加，然后再转换回到时域，这段其他人说的话就像是你说的，人耳是听不出来真假的，但使用同样的技术可以分辨是不是真的，因为在某些具体发音上不可能做到100%吻合，在频域很容易对比发现。
这种工具都是现成的，就是一个软件，几十年前在软件行业就有，一般是用来做语音处理，比如电话自动回答系统的女性声音，听着像是专业播音员才有的，其实都是这样经过改造的（当时我们就是让公司的女秘书读事先设计的语句，鬼妹们最低也是发音准确，声音好听不好听不重要），你只需要在处理声音时加上不同的滤波器就是了，结果录下来作为产品版本，非常简单，不需要很专业的知识，经验就可以了。
这种语音一般是非实时的，就是事先的录音，至少在上个世纪是这样。做到实时并不是不可以，毕竟如今硬件速度极快，不是上个世纪的水平了。
看来如今的贼人们也是提高技术水平了，当然背后会有一个电民败类帮助。当然也许不是败类，就是一个正经的处理声音的个体公司生意，然后贼人们拿着两段语音说是制片公司需要的，给什么明星配音，关于绑架情节的，花钱买服务。大明星不愿意自己配音，或者真实声音就像猪叫，不是不可能，可以理解。
6thsense 发表评论于
以后亲人之间打电话要钱得说密码，而且密码还得不停地换。
onceawhile 发表评论于
真可怕。现在很多银行用语音验证。有可能用同样方法盗窃用户信息
Ldad 发表评论于
试过一个模拟音频软件，忘了名字，只需要很少训练就能生成我的声音。
令胡冲 发表评论于


声音很像也不容易。这歹徒需要很多时间收集、训练、定制、生成具体某个人的声音。能通过实测。基本上是个硕士课题。


SoWhatAgain 发表评论于
OpenAI 本来是用来防止AI滥用的，结果却还是被人用来滥用。