据了解，今年3月，犯罪分子利用商业可用的语音生成AI软件模仿了一位来自拥有一家英国能源公司的德国母公司的老板。然后他们骗这家能源公司的首席执行官让他在一个小时内将资金汇给一家匈牙利供应商，另外还保证这笔资金会立即得到报销。
报道称，当这位CEO听到熟悉的、带有轻微德国口音的声音之后并没有对此产生怀疑。
然而事实上，这笔汇款不仅没有得到报销而且骗子们还继续冒充这位德国老板要求另一笔紧急汇款。不过这次，这位英国CEO拒绝付款了。
获悉，这位英国CEO转给所谓的匈牙利供应商的这笔钱最终被转移到了墨西哥及其他地方。当局目前并未确定此次网络犯罪背后的罪犯身份。
不难看出，这种基于AI的网络攻击仅仅是企业和组织在未来可能面临的主要难题的开始。随着模仿声音工具技术的不断改进，犯罪分子利用这些工具牟利的可能性也会不断增加。
根据设计反欺诈语音软件的网络安全公司Pindrop在去年发布的报告显示，从2013年到2017年，语音欺诈案件增加了350%，其中每638个电话中就有1个是人工合成的。
由此可见，基于AI的工具的兴起既有优点也有缺点。一方面，它为技术的探索和创造提供了空间，而另一方面，它为犯罪、欺骗以及欺诈提供了可能性。
