孙燕姿后轮到“卷福”？AI合成声音技术遭滥用 电信诈骗险些得手

《科创板日报》5月15日讯（编辑 宋子乔） AI为各行各业装上效率加速器的同时，也可能被不法之人用作诈骗工具。

据英国媒体《每日邮报》报道，一家西班牙小型电影制作公司（Peabody Films）称收到英国著名男演员“卷福”本尼迪克特•康伯巴奇（Benedict Cumberbatch）发电话，对方表示对该公司即将拍摄的电影感兴趣，想寻求合作。

这部电影的导演称，他们最初收到了自称是好莱坞明星经纪人发来的电子邮件，谨慎起见，他建议打个电话，而来电声音与康伯巴奇的相似度有100%，“是那个声音，毫无疑问。”该公司后又与“康伯巴奇”进行了几次通话。

这导致这位导演一开始完全相信对方正是康伯巴奇本人，“当我们接到电话时，简直不敢相信自己的运气，康伯巴奇是当下最有才华的演员之一，他居然会主动联系我们并对我们的项目表现出兴趣。”

随后，该电影公司几次邀约见面，“康伯巴奇”都拒绝了，甚至还提出要该公司先打款20万英镑（约合人民币170万元）。这时公司意识到了可能遇到了骗子，向“康伯巴奇”的经纪公司确认后才发现，这是一场AI骗局。

“当发现自己是AI诈骗受害者时，我们感到非常震惊和失望。”该导演表示。目前，该电影公司正考虑是否报警。

被中国观众称为“卷福”的本尼迪克特•康伯巴奇可以说是英国国宝级演员，他被英国女王授予大英帝国司令勋章，也被《时代周刊》评为全球最具影响力人物之一。不论在热门英剧《神探夏洛克》里，还是在好莱坞大片《奇幻博士》中，康伯巴奇都是自己配音。由于声音很有辨识度，“卷福”还被力邀为《霍比特人》里的恶龙等虚拟形象配音。

这仅仅是AI合成声音用于诈骗的一例。

据报道，近日，国外一名网友用美国知名歌手弗兰克•奥申（Frank Ocean）的歌曲片段用以训练AI，之后用AI生成了大约9首仿冒其风格的歌曲，随后该网友于4月初在论坛上发布了这些曲目，并将其伪造成唱片录制时的泄露片段，通过出售这些音乐骗取了约970美元（约合人民币6700元）。

当下的AI技术不仅可以克隆真实的人声，还可以通过声音进行“二次创作”。近段时间，通过模型训练和后期处理，模拟真人歌手孙燕姿声音进行翻唱的“AI孙燕姿”走红网络。

另一方面，越来越多的开源模型让相关工具的使用门槛进一步降低，非编程人员便可利用AI工具快速“调教”出想要的声音。

AI歌手的翻唱歌曲，正是由多位创作者通过开源项目“so-vits-svc”自制后并上传。今年早些时候，微软研究人员展示了一种文本转语音AI模型“VALL-E”，该模型只需3秒钟音频，就可以合成任何人的声音，保留说话者的情绪基调，并可以说出任何内容。

这些都便利了骗子制造假信息。网络安全公司迈克菲发现，在美国、英国、法国、德国、日本、澳大利亚和印度，有10%的人曾被人工智能语音诈骗。

除了声音诈骗，AI在图像、视频上的创造能力同样不得不让人提高警惕。AI专家阿列克谢•希特罗夫曾向媒体表示，AI生成的虚假图像和声音已经被广泛用于商业欺诈。