警惕AI语音克隆攻击
【川透社编译报道】AI语音克隆工具通过收集TikTok、Facebook甚至政府网站等公开来源的少量生物数据,就能克隆出本人都难以分辨的声音。全球已发生多例网络犯罪分子借此技术骗取钱财案件,单个案件涉…
今年早些时候,法国DJ大卫·库塔(David Guetta)在现场演出中表演了一首新歌。当然,这没什么特别的。不寻常的是,这首歌曲的伴奏部分使用AI技术克隆了说唱歌手埃米纳姆(Eminem)的声音。埃米纳姆允许这样做吗?或者说这需要经过他授权吗?其中相关的伦理和法律方面的影响,人们要争论数月甚至数年。
然而,这首歌只是一个例子,随着AI语音克隆应用日益增多,其影响令人担忧。虽然许多伪造音频是用来娱乐,但也会被用来恶意假冒个人的声音。一般来说,这种假冒通常以亲友求助电话的方式出现。专门从事深度伪造分析的机构 The Geek Studio 的CEO桑托斯·库玛(Santosh Kumar)说:“深度伪造技术是一个重大且不断发展的问题,可能会给人们带来各个方面的危害,它们会传播错误信息,侵犯隐私,助长欺诈,侵蚀人们对媒体的信任,甚至带来法律和道德挑战。检测和预防工作一直在进行,但深度伪造背后的技术在不断发展,这使其成为一个持续的问题。这一问题的严重程度会因地区和社会背景因素而有所不同。及时了解深度伪造技术的最新情况对于了解其当前影响至关重要。”
尽管大多数被伪造音频者是公众人物,但如今越来越多网络诈骗分子开始利用声音克隆工具骗取企业和个人的钱财。思科公司欧洲、中东和非洲地区服务提供商及中东和非洲地区网络安全总监法迪·尤内斯(Fady Younes)举例说,在一次AI声音克隆攻击案例中,诈骗者假冒成英国某能源公司CEO,骗取了超过24万美元。另一起相关案例中,诈骗者在克隆了一家日本公司总裁的声音后,指使公司分行经理向其转账了3500万美元。
库玛说,这些攻击日益复杂,使得人们很难区分真伪声音,这帮助了网络诈骗分子实施高可信度骗局。更重要的是,“由于网络诈骗分子假冒受信任的个人,操纵受害者披露敏感信息或付款,这些欺骗手段造成了巨大的财务损失,个人和企业都遭受了严重亏损。”
这种威胁已经变得如此严重,以至于美国联邦贸易委员会在三月份发布了一份消费者警报,敦促人们警惕AI生成的录音。库玛表示:“(这些录音)只需使用从 TikTok、Facebook、Instagram 甚至政府网站等公开来源收集到的少量生物识别数据就能制作出来。使用像VoiceLab这样的人工智能工具分析一个人声音的生物特征,就能生成与目标个体极其相似的声音。”
我们应该担心自己受到AI语音克隆攻击吗?当然应该。Like Digital& Partners 公司是一家专门从事数字化转型的机构,该公司CEO卡尔·埃斯克里特(Karl Escritt)说:“随着人们越来越多地在互联网上分享日常生活和个人生活,这使他们和名人一样容易泄露个人隐私。数字克隆的最大问题在于其速度之快以及对日常互联网用户的可及性,这意味着它的发展让大多数行业措手不及,我们发现自己需要主动对它进行管理和控制,才能监管它。
那么我们该如何避免自己的声音被克隆,或者至少将风险降到最低呢?库玛说,首先,要谨慎在网上分享自己的声音。可用的声音数据越少,别人就越难克隆你的声音。其次,检查你使用的App和服务的权限。一些App可能会请求访问你的麦克风,因此你应该只授予值得信赖、信誉良好的App这个权限。你还应该使用强大、唯一的密码,启用多因素身份验证,以及更新设备并确保其安全性。
库玛还建议启用声音生物识别身份验证(如果可以用的话),并且谨慎使用智能语音助手。此外,谨慎使用语音交易,如有疑问,应避免通过电话共享敏感信息。库玛表示:“尽管这些步骤可以帮助降低你的声音被克隆的风险,但必须注意,有心的网络攻击者仍有可能找到复制声音的方法。在当今数字化环境中,对网络安全和语音相关安全保持警惕和积极主动至关重要。”
不过,并非所有的语音克隆案例都是负面的。演员瓦尔·基尔默(Val Kilmer)因喉癌失去了说话能力,他与AI语音平台Sonantic合作,为电影《壮志凌云:独行侠》重新配音。不仅如此,我们还能听到汉克·威廉姆斯(Hank Williams)演唱N.W.A.的《Straight Outta Compton》。(译者注:汉克·威廉姆斯1953年去世,《Straight Outta Compton》1988年发行)但技术发展带来的威胁仍然存在。埃斯克里特说:“网络上你的个人信息越多,这些信息就越有可能被克隆或滥用。在这个AI技术蓬勃发展的时代,隐私非常重要。如果你希望某些方面保持私密,就需要仔细考虑分享的内容和方式。克隆和AI技术本身没有善恶,作用好坏在于它是否侵犯了你的隐私。”【全文完】
来源:《连线》2023年度创新主题版 | 作者:Lain Akerman
原文标题:Attack of the clones
现在AI真的好恐怖呀,我都觉得能克隆人类了。
AI发展的同时确实应该控制界限
《猎罪图鉴》里教授就是被AI合成的视频诈骗,最后自杀了。
现在不仅有AI声音还有AI换脸,很多假新闻就是由AI图片杜撰的。
感觉个人信息好容易被泄露啊,拿着手机有时候就会有种被监控的感觉
人的隐私越来越少,生物信息也在暴露中。
在享受人工的便利的时候,我们的所有信息数据也都暴露给人工智能。
诈骗犯现在就有在运用这个技术,科技发展真的是利弊相伴啊
这种语音克隆给我们会带来好多恐慌。
在我热衷于在网上搜索各类型的AI cover的时候,却忘记了同样可以凭借此技术达到侵犯个人隐私的作用……
其实我们的隐私在ai面前早已无处藏身。
大学生的电话都是外卖电话,其他统统归于诈骗和垃圾短信。