住在美国亚利桑那州的德斯特凡诺（Jennifer DeStefano）听到“女儿”啜泣求救，之后一名男子接过电话，要求100万美元赎金。所幸她冷静认对，没有受骗。

▲ 接到AI语音诈骗电话的德斯特凡诺（Jennifer DeStefano）与女儿布里（Brie）。 Facebook

德斯特凡诺说，她一般都不接不知明电话，但当时15岁的女儿去了滑雪，她怕有意外就接听了那通可疑电话。“救我，妈，救我。”她听到女儿啜泣的声音。然后一名男子接过电话，要胁100万美元赎金，不过她说没钱，对方便“大减价”只要5万美元。

德斯特凡诺让对方保持通话。所幸她接电话时，身处于另一个女儿的舞蹈室，其他家长纷纷帮忙，报警和找她丈夫。在短短4分钟内，她确认女儿安全无事，之后她便挂断电话。

但她挂电话后，仍一直觉得电话里的就是她女儿。“完全是她的声音。抑扬顿挫，那就是她哭的方式。我没有一秒怀疑那不是她。就是这个怪异的部分让我陷入困境。”

电话传来的女孩的声音，原来是由人工智能（AI）合成，绑架当然也是假的。新型诈骗震撼美国当局，歹徒使用网路上垂手可得、几可乱真的AI语音复制工具，假冒家庭成员来诈骗亲人。

美国资讯安全公司McAfee Labs上月发布的民调显示，在美国等9个国家针对7000人的民调中，1／4表示自己遇过AI语音诈骗，或听过别人有类似经验。70%受访者表示，没有信心能“分辨真假语音”。

有专家指出，AI最大的危险是模糊了真实和虚幻的界线，让网路罪犯能有廉价又有效的技术来散播假讯息。

加州大学柏克莱分校资讯学院教授法里德（Hany Farid）告诉法新社：“因为现在制作高仿真的语音非常容易…网路上几乎无人能幸免。这些诈骗正广为流行。”

今年初AI新创公司ElevenLabs坦承自家语音合成工具可被用于“恶意用途”，先前就有用户发布透过“深伪技术”（Deepfake）合成的语音，假冒英国女星爱玛屈臣（Emma Watson）读希特拉自传《我的奋斗》（Mein Kampf）。