太可怕了，AI模仿15岁女儿声音求救，差点骗走妈妈100万美金！这哪个当母亲的能不上当啊？

美国亚利桑那州女子珍妮佛(Jennifer DeStefano)近来接到电话，被通知15岁女儿遭到绑架，对方要求100万美元赎金，吓得她不知所措，没想到竟然是有心人士用AI软体模仿女儿声音向她诈骗，女儿其实没有被绑架。
身为人母的珍妮佛向媒体表示，她近来接到一通陌生电话，原本不打算接，但因为15岁女儿正在外地度假，担心发生突发状况所以接起，结果听到女儿的声音哭着向她求救，她急忙问对方怎么了，突然从电话那头听到一个男人的声音，命令女儿乖乖躺在地上。
那名男子后来接起电话，向珍妮佛表示，他已经绑架了女儿，如果敢报警或是通知任何人，他就会对女儿不利，甚至把人送到墨西哥，让家人永远都找不到下落。
珍妮佛表示，当她和男子交涉时，附近友人赶紧帮忙报案并且找人，4分钟后成功与女儿联系上，发现人明明很安全，让她气得立即挂断诈骗者电话，后来证实诈骗电话的声音可能是使用AI软体模仿。
珍妮佛表示，"那个声音听起来完全就是我女儿，连哭得方式都一样，所以我完全不会怀疑是假的，才让我陷入这个诡异的状况"，她希望她的故事能帮忙提醒大众，小心有心人士会使用类似方法进行诈骗，"最好要有只有你们之间知道的话题，这样才能确保不会被AI给骗了"。

这标题误导啊，明明没有骗到手

家长和子女之间，要说好一个secret code, 找个容易记住但是别人不容易猜到的词就好，无论是孩子给家长打电话要钱求救啥的，还是有人跟孩子说家长有事，请他/她帮忙去接孩子，问一下code, 说不出来的接当骗子处理。

“ 吓得她不知所措，没想到竟然是有心人士用AI” 这叫有心人士？这是别有用心人士吧

“ 吓得她不知所措，没想到竟然是有心人士用AI” 这叫有心人士？这是别有用心人士吧
Cumberbitch 发表于 2023-04-12 13:47

我竟然被你最后一句话逗笑了

这个ai,也需要有data来train的吧？那就是事先采集了她女儿的声音，如果连哭声都一模一样，那这怎么搜集来的？身边的熟人干的？

这标题误导啊，明明没有骗到手
westlake 发表于 2023-04-12 13:35

你的注意点太奇特了

正牌绑架犯会很愤怒的，老纸绑个人容易吗，又得有车载着，又得有房放着；生意都被你们这群零成本伪造声音恐吓家属的家伙搞坏了。

有link吗？

这个ai,也需要有data来train的吧？那就是事先采集了她女儿的声音，如果连哭声都一模一样，那这怎么搜集来的？身边的熟人干的？
jedi2006 发表于 2023-04-12 13:50

从社交平台啊

0

关键是骗子怎么知道这个女孩在外地的。我第一反应是social media，女孩可能share了各种信息，完全可以拼凑出真实姓名，大概住哪个区，现在在外地，可能她还上传了视频可以用于声音合成 。教孩子保护隐私刻不容缓。

关键是骗子怎么知道这个女孩在外地的。我第一反应是social media，女孩可能share了各种信息，完全可以拼凑出真实姓名，大概住哪个区，现在在外地，可能她还上传了视频可以用于声音合成 。教孩子保护隐私刻不容缓。
中美律师集团 发表于 2023-04-12 13:58

連哭都一樣， 女兒還上傳了自己哭的視頻？？ 不會是女兒自己想要錢吧
還真有 https://www.resemble.ai/

这个ai,也需要有data来train的吧？那就是事先采集了她女儿的声音，如果连哭声都一模一样，那这怎么搜集来的？身边的熟人干的？
jedi2006 发表于 2023-04-12 13:50

很大概率这些人家里有googlehome或其他的在线speaker

应该是身边人干的吧，知道女儿不在身边，知道女儿的声音，包括哭声

不少公司在做 AI Voice Cloning，只要给几段 1 分钟长的声音，AI 就能把 accent 的特征学习下来。
https://play.ht/voice-cloning/
https://beta.elevenlabs.io/blog/voice-conversion/

https://www.youtube.com/watch?v=17_xLsqny9E
比如这个，在不同人声音之间无缝切换，Steve Jobs，Bill Gates，卡戴珊。。。

回复 1楼vincentilia的帖子
随着AI的发展，家长以后更需要越来越保护好孩子隐私，孩子的照片、录像绝对不要post到社交媒体上

好可怕。

还好联系上了，要是女儿正好没看手机，后果不堪设想

我之前还傻傻的为了好玩，在某网站训练了自己的语音ai，需要读50句话，出来和真人一模一样。幸好是英语ai，至少骗不到我父母。

N多新闻报道，诈骗集团用AI做视频，做成子女的样子和声音，和老人现场视屏通话，骗钱。这都多少年了

这个ai,也需要有data来train的吧？那就是事先采集了她女儿的声音，如果连哭声都一模一样，那这怎么搜集来的？身边的熟人干的？
jedi2006 发表于 2023-04-12 13:50

就是，这个故事听上去很假。

从社交平台啊
olivia0216 发表于 2023-04-12 13:58

社交平台上连哭声都有？

回复 1楼vincentilia的帖子
随着AI的发展，家长以后更需要越来越保护好孩子隐私，孩子的照片、录像绝对不要post到社交媒体上
frogette 发表于 2023-04-12 14:55

现在的小孩好多梦想当网红, 就算不当网红也离不开这些社交媒体,因为周围的同龄人都在玩.

这标题误导啊，明明没有骗到手
westlake 发表于 2023-04-12 13:35

有什么误导的，吓得我不知道怎么删视频了，以后什么都不能放网上了

微软的今年新技术 Vall-E 号称听三秒钟就能模仿任何人说话。
https://finance.yahoo.com/news/microsoft-unveils-ai-simulate-voice-112136270.html

这个ai,也需要有data来train的吧？那就是事先采集了她女儿的声音，如果连哭声都一模一样，那这怎么搜集来的？身边的熟人干的？
jedi2006 发表于 2023-04-12 13:50

现在手机音频的电子设备就每时每刻在你的身边，你随便说个什么，一打开电脑，YouTube就给你推来了

有照片，让ai搞一段视频通话诈骗更逼真，更容易了。保护隐私和对ai相关的立法刻不容缓。

你们去B站看，一堆AI声音，比如用早年周杰伦的声音train了模型之后来唱他近年出的新歌。