您的位置:首页 > 国际新闻

AI 语音模仿老板声音要求转账,成功骗走了 173 万

时间:2020-01-29

资料来源:爱情迷儿作者:李范超

变脸应用ZAO大受欢迎。许多人担心,在他们的面部信息泄露后,洗脸费会被破解和窃取。虽然支付宝后来表示人工智能换脸无法破解刷脸支付,但一些人已经开始使用人工智能语音合成软件作弊。

据《华尔街日报》报道,一名骗子通过人工智能合成语音(AI synthesized voice)假冒了一家英国能源公司德国母公司的CEO,成功欺骗公司员工进行大额转账,并成功诈骗22万欧元(约合人民币173万元)。“人工智能”听起来如此真实吗?据说这家英国能源公司的首席执行官接到一个自称是德国母公司首席执行官的电话,要求他向一家匈牙利供应商转移一笔22万欧元的资金。这件事很紧急,必须在一小时内完成。

图片来源:亚特兰蒂斯在线

英国首席执行官起初并没有意识到哪里出了问题。他表示,对方说话带有德国口音,语气与德国母公司CEO几乎相同,所以他并不觉得可疑,并把钱递了过去。

有趣的是,收到汇款后,骗子并没有停下来,而是再次打电话要求英国公司汇款给德国的母公司以偿还一些费用。然而,这次的电话号码显示是奥地利打来的,这家英国公司开始怀疑,没有再转接。

该案件发生在今年3月。经过调查,发现22万欧元并没有转给所谓的匈牙利供应商,而是转给了墨西哥和其他国家。

幸运的是,这一损失不需要由英国能源公司承担,而是由被保险的保险公司欧拉赫尔墨斯(Euler Hermes)承担。在调查事件后,警方发现欺诈者使用人工智能语音合成软件模仿德国母公司CEO的声音,但迄今为止他还未能在幕后找到欺诈者。

保险公司的反欺诈专家吕迪格基尔希说,他们以前从未处理过因使用人工智能犯罪而引起的索赔。这种通过人工智能技术进行欺诈的模式也被称为可视(语音钓鱼)。

图像来源:安全门户。

更令人担忧的是,这个案例可能不是一个孤立的案例。随着人工智能技术的不断进步和门槛的逐步降低,类似的人工智能语音欺诈很可能会失控。

根据一家开发语音欺诈软件的网络安全公司的调查报告,从2013年到2017年,语音欺诈的数量增加了350%,638个欺诈电话中有一个是机器合成的。

事实上,我们中的许多人可能都接到过人工智能的电话。今年的315党揭露了人工智能骚扰电话的灰色行业。这些人工智能手机的对话和语调对真实的人来说几乎是假的。每台机器一天能打1000个电话,这比人类效率高得多。

DeepFake技术现在已经被开发出来,可以随意篡改视频和语音。早些时候,斯坦福和其他大学发布了一项新的研究。只要输入任何文本,视频中的说话者就可以说出相应的单词,并且可以修改原始视频的句子。例如,电视主持人报道的“苹果股价收于191.45美元”的数字改为“182.25美元”。

虽然这两个词的发音和口型完全不同,但几乎没有任何修饰的痕迹。经过调查,研究人员发现59.6%的受试者认为修改后的视频是真实的,这项技术成功地愚弄了大多数人的眼睛。

随着这些人工智能技术的不断发展,像ZAO这样方便、低门槛的工具逐渐出现,允许每个人利用类似的机会合成变脸视频或模仿其他声音,同时很难避免被犯罪分子利用来犯罪。

日期归档
  • 友情链接:
  • 乌苏门户网 版权所有© www.4girlslike.com 技术支持:乌苏门户网| 网站地图