AI模仿女儿哭声 母亲几乎被骗百万 专家:只需三秒音频即可复制人声

近日,美国一位妈妈收到来电,电话中听到女儿的求救声令她深感恐惧,让她完全相信女儿被坏人绑架。

mom voice clone.JPG

最近美国一位妈妈收到来电,电话中听到女儿的求救声令她深感恐惧,让她完全相信女儿被坏人绑架。 Credit: Jennifer DeStefano/Facebook

去年,澳大利亚人因诈骗而损失的数字惊人,高达31亿澳元。骗局层出不穷,任何人都有可能上当。

近日,美国一位妈妈收到来电,电话中听到女儿的求救声令她深感恐惧,让她完全相信女儿被坏人绑架。

这位居住在美国亚利桑那州的母亲詹妮弗·德斯特法诺(Jennifer Destefano)表示,当日她正开车接她小女儿下课的路上接到电话,电话中她听到另一个女儿的声音,正在哭泣和求救。

她问女儿:“发生什么事了?”

女儿的声音回答说:“妈妈,我搞砸了。”(Mum I messed up.)
那真的是她的声音,令人不寒而栗。那真的是她的哭泣声。
受害母亲詹妮弗
然后她听到了一个男人的声音说:“躺下别动。”

詹妮弗起初以为女儿受伤了,躺在担架上,因为当时她女儿正在滑雪旅程中。

但随后她再次听到女儿说:“妈妈,这些坏人抓住了我,救我,快救我。”

然后一个男人的声音威胁说:“你的女儿在我手上,如果你报警,如果你告诉任何人,我会让她吸毒,我会对她为所欲为,我会把她卖到墨西哥,你再也见不到她。”

詹妮弗回忆起当时自己全身发抖,激动尖叫着求助,附近的两名女子跑来协助她报警。
父母与家人应该建立安全词(emergency word)或安全问题,以在紧急情况下使用,确认对方身份。
受害母亲詹妮弗
警方称,这是常见的骗局,骗子从互联网下载或使用App应用程序,利用AI技术模仿某人声音,成为诈骗工具。

即使警方确定是骗局,这位妈妈仍说她无法相信女儿的安全。

她说:“骗子开始索要赎金,男子威胁要把她贩卖,要求100万美元的赎金。我们正在谈判,他们还说要亲自来找我拿现金。”

詹妮弗说这太真实了,即使她的丈夫告诉她,他已接到了女儿,她仍坚持要和女儿通话,才相信她真的安全。

“那真的是她的声音,令人不寒而栗。那真的是她的哭泣声。”

尽管詹妮弗已经报警,但警方称因证据不足,他们不能做任何进一步行动。执法部门将个案视为恶作剧电话。
詹妮弗敦促父母与家人应该建立安全词(emergency word)或安全问题,以在紧急情况下使用,确认对方身份。
AI人工智能技术现在只需要一个人的三秒钟音频样本,即可复制人的声音。
网络安全专家
据网络安全专家称,AI人工智能技术现在只需要一个人的三秒钟音频样本,即可复制人的声音。

虽然现在很多人都在社交媒体上发布影像录音,骗子可以从中收集样本,但詹妮弗表示,她的女儿没有任何公开的社交媒体账户。但她也表示,女儿曾在她的学校和体育团体接受采访,相关素材可在网络获取。

澳大利亚诈骗监察服务组织(Scamwatch)表示,去年收到了超过50万份诈骗举报,比2021年所记录的总损失增加了八成。

在澳大利亚,最常见的诈骗类型与投资有关,造成高达15亿澳元财务损失。

其它主要诈骗类型包括:远程访问(remote access)、支付转向(payment redirection)、感情骗局(romance),以及通过电子邮件或短信发送的恶意软件窃取数据。

欢迎下载应用程序SBS Audio,关注Mandarin。您也可以通过苹果播客、谷歌播客、Spotify等播客平台随时收听和下载SBS普通话音频故事。

请在关注SBS中文,了解更多澳洲新闻。

分享
Published 28 April 2023 1:40pm
By Peggy Tsoi
Source: SBS


Share this with family and friends