网上公然开售AI犯罪技术,实测黑心IT公司换脸穿帮位

2023-07-18 08:36

“人工智能”(AI) 已经成为科技新趋势,但不幸的是同时遭到骗徒利用,作为网络诈骗工具。香港警方今年已经接获相关案件,事主都是因为被AI技术暪骗或遭勒索。《星岛申诉王》发现,有人在网上公然兜售AI换脸技术,还表示可用作不法用途。

科技公司提供AI犯罪技术

记者在社交网站联络一间马来西亚IT公司,对方宣称可以提供精品级AI换脸技术,除了适用于拍摄视频和直播外,亦适用于“网恋钓鱼”及“黑色产业”等网络犯罪。

这间公司在Telegram开设群组,里面有700多人。记者假扮顾客查询,了解费用和服务,发现这间公司是收取俗称“U币”的虚拟货币“泰达币”(USDT)作报酬。实时AI换脸软件,年费索价3,000美元。对方宣称付款后即可享有优质换脸服务,连成龙及迪丽热巴等名人明星的脸容,也能模仿。如果要创制指定人脸,则要做模,每个模要多加约4,300港币。

香港创科发展协会主席陈迪源应邀参与测试,了解IT公司的技术到哪个水平。

▲香港创科发展协会主席陈迪源应邀参与测试,了解IT公司的技术到哪个水平。

该黑心IT公司代表阿Luck,还邀请记者试用他们的直播换脸服务,让我们看看效果。记者遂邀请香港创科发展协会主席陈迪源参与测试,了解对方技术水平。

直播一开始,阿Luck已经换上一幅大叔脸孔,加上变声器与陈迪源通话,目的除了展示效果外,还要避免真实容貌或声线曝光。他转了几个角度后,开始换另一幅男子的脸孔,但陈迪源向阿Luck直言立体感变差,就像相片P过头(过度修图)的那种感觉。

陈询问能否模仿声线,阿Luck即化身“加钱哥”,扬言只要肯加钱和提供声线,便可以模仿得到,惟直言模仿粤语的话,相似度仅约6成。由于陈不断提出一些测试AI系统的难度要求,例如用双手遮脸等,AI影像立即变得模糊,手指变成透明,而男人勉强模仿女人脸孔,额头位置和脸容两边也显得不自然。阿Luck被测试得有点恼羞成怒,向专家陈迪源说“反正我演示的时候,真实效果你能接受就接受,不能接受,AI就是这样子!”

测试完毕后,陈迪源对这间黑心IT公司的技术评价一般。“开始的时候我是有些期望,怎么说也是拿出来卖给别人,应该有些斤両才敢这样做,我还在想要怎样才找到对方破绽,但结果你刚才也看到了,很多东西不攻自破。例如画面有些情况边界模糊,声音只是用上变声器、并非复制别人声音。这个水平,我会形容是业余级的“天花板”,但以专业级来说,是很入门的工具。”

惟陈迪源强调,IT业界在AI换脸以至复制声音的技术,进步得非常快,他最担心复制广东话的技术,日后将会成为行骗工具。“暂时模拟声音的技术,在英语或普通话方面会成熟一点,粤语方面没那么成熟。不过科技一日千里,或许半年或一年后广东话语音的复制技术会开始普及,到时要更加小心。”

为针对各类诈骗案件,警方早前委任4名年轻警务人员为“防骗刑警”,化身防骗KOL提高公众防骗意识。对于AI技术遭利用犯案,警方亦公开防骗贴士。“防骗刑警”之一的网络安全及科技罪案调查科高级督察陈智颖称,要破解AI换脸除了留意影片内人物的眼神,以及口型有否不自然之处外,亦可要求对方在镜头前面用手指慢慢横过脸部,骗徒的计算机程序可能因为无法适应这突如其来的改变,因此出现穿崩。

商业罪案调查科高级督察张文瀚则提醒,当与他人通电话或进行视像通话时,纵然觉得对方的声音与自己亲友十分相似,亦不能排除被骗的机会,要尝试从对话内容、一些只有亲友间才知道的信息,从而核实对方身份的真假。

以上内容归星岛新闻集团所有,未经许可不得擅自转载引用。

相关阅读
热门文章