住在美国亚利桑那州的德斯特凡诺(Jennifer DeStefano)听到“女儿”啜泣求救,之后一名男子接过电话,要求100万美元赎金。所幸她冷静认对,没有受骗。
▲ 接到AI语音诈骗电话的德斯特凡诺(Jennifer DeStefano)与女儿布里(Brie)。 Facebook
德斯特凡诺说,她一般都不接不知明电话,但当时15岁的女儿去了滑雪,她怕有意外就接听了那通可疑电话。“救我,妈,救我。”她听到女儿啜泣的声音。然后一名男子接过电话,要胁100万美元赎金,不过她说没钱,对方便“大减价”只要5万美元。
德斯特凡诺让对方保持通话。所幸她接电话时,身处于另一个女儿的舞蹈室,其他家长纷纷帮忙,报警和找她丈夫。在短短4分钟内,她确认女儿安全无事,之后她便挂断电话。
但她挂电话后,仍一直觉得电话里的就是她女儿。“完全是她的声音。抑扬顿挫,那就是她哭的方式。我没有一秒怀疑那不是她。就是这个怪异的部分让我陷入困境。”
电话传来的女孩的声音,原来是由人工智能(AI)合成,绑架当然也是假的。新型诈骗震撼美国当局,歹徒使用网路上垂手可得、几可乱真的AI语音复制工具,假冒家庭成员来诈骗亲人。
美国资讯安全公司McAfee Labs上月发布的民调显示,在美国等9个国家针对7000人的民调中,1/4表示自己遇过AI语音诈骗,或听过别人有类似经验。70%受访者表示,没有信心能“分辨真假语音”。
有专家指出,AI最大的危险是模糊了真实和虚幻的界线,让网路罪犯能有廉价又有效的技术来散播假讯息。
加州大学柏克莱分校资讯学院教授法里德(Hany Farid)告诉法新社:“因为现在制作高仿真的语音非常容易…网路上几乎无人能幸免。这些诈骗正广为流行。”
今年初AI新创公司ElevenLabs坦承自家语音合成工具可被用于“恶意用途”,先前就有用户发布透过“深伪技术”(Deepfake)合成的语音,假冒英国女星爱玛屈臣(Emma Watson)读希特拉自传《我的奋斗》(Mein Kampf)。