凭着一小段音频而极致拷贝整个人的气质口音，于今年以前毫无疑问让人觉得这也是科幻片的桥段，但在今年的爆红的生成性人工智能技术GPT的大环境下，促使没有人害怕不相信。

在今年的，多个公司都产品研发自己的AI。微软公司最近又发布了一个新的 AI，听说它你只要三秒钟的音频样版就可以效仿出自己的口音。

AI语音让语音鉴别不会再安全性

有一位软文写手弗兰茨·考克斯分享他应用AI骗得银行防护系统故事。他仅用了AI形成了一段自已的口音，就轻易骗得了银行的验证系统。

这个人是这样的操作的。最先打给银行的服务电话，然后他就点一下周边电脑上面的一份文件，播放视频一段响声，“查验我的余额”。事实上这也不是那个声音，反而是应用 AI 产生的响声。而考克斯万万没想到的是，竟然见效了——那个声音已通过鉴别银行检查。她在取得成功应用人工智能技术产生的响声再进入自己的银行帐户，能正常浏览账号信息，包含账户余额和近期的交易转帐明细。

这项研究打破这样一个念头，即根据语音的生物识别技术安全性根本无法妥当维护个人信息安全。为此一些权威专家如今号召银行彻底舍弃语音验证，由于乱用人工智能技术语音可能会致使诈骗和帐户黑客入侵。

AI语音克隆多么简易，罪成本费只会更低

伴随着语音克隆技术发展，现阶段应用AI克隆语音是越来越简易，在这个基础上微软公司表明，需要提供三秒钟的音频精彩片段，其一个新的文字转语音 AI 就可克隆你口音，这就是你——VALL-E。

这个模式其背后的基础技术，微软公司在一篇新文章中称作“神经系统转码软件语言模型”。这个技术繁杂，可事实上，这个系统的应用好像比较简单：仅需插进音频样版，然后插进一些文字，然后就可以得到真实语音。

与其说同出一辙还因赫赫有名的ElevenLabs，这一款AI软件的人工智能算法完成了和人类相对高度相近的语气和语音变化，还可以根据实际情况调节发言语气。有了这样的前沿、最通用性人工智能技术的语音专用工具，用户可简单用文字制做一切响声风格特点的高品质音频具体内容。

因此你就会发现近期很多出现一些用AI语音克隆来达到“各种各样人物玩电子游戏”“让一切人物唱任何音乐”的娱乐视频。那如果仅仅在娱乐角度上那还是无可非议，但偏偏又有人动过歪心思。

曾参演《这个杀手不太冷》的演员娜塔莉·波特曼接纳电视栏目采访的短视频遭受故意伪造。

原本娜塔莉·波特曼讲的是“跟她一起工作中我真的很好运”，但是通过AI的重新编辑成了“我是一个真正意义上的拉皮条”。乃至连着视频中人物的嘴形也一同修改了来！

在听到“家人”在电话中求救时，大家的第一反应是“害怕”——她们想不到这篇语音竟然都是假的。今年初，73岁卡德跟她75岁老公格蕾丝收到一通电话，电话中的“小孙子”说自己被车撞撞上了人如今在狱中，必须赎金。

她们立刻前去银行取下了3000澳元（约合人民币15286元），还行这会对老年人碰巧遇到了一个对全新骗术有知道的银行主管。获知声是虚假的，也有人也上当受骗，她们才反应过来自身被忽悠了。“大家陷进去了，大家相信自己是在与布兰登讲话。”

你的声誉能够被记下来。你的眼睛能够被照相。你的指纹识别能够在你丧失行为能力时进行。当一切纪录都能被AI克隆复制情况下，不该想一想AI的高速发展是否已经迷失方向？索菲娅觉得，AI的研发与使用务必以民为本，假如独角兽公司制造出来的商品造成危害，人民法院应当追责这些企业的职责。