去年国庆长假期间，短视频平台上(shàng)曾经出现大(dà)量“雷军AI配音”的恶搞视频，涉及堵车、调休、游戏等热门话题，不仅言辞犀利，还常爆粗口，引得网友纷纷涌到雷军微博下發(fā)问“最近你怎么在骂人”。对此，雷军还专门發(fā)视频，呼吁大(dà)家不要(yào)再恶搞。
雷军個(gè)人账号截图
中招的不只是雷军，现在很多互联网平台，都有大(dà)量用AI移花接木、恶搞名人的音视频。还有AI魔改经典老剧，用AI生成的“假名人”来带货，也是利用了换脸拟声技术。
人工智能深度合成技术的快(kuài)速發(fā)展，推动了“AI换脸拟声”在影视、广告、社交等领域广泛兴起，成为社会喜闻乐见、传播力强的技术应用。但正如雷军所指出的，“AI换脸拟声”不当滥用也成了违法侵权行为的重灾区，易引發(fā)侵犯肖像权、侵犯公民個(gè)人信息以及诈骗等犯罪行为，带来社会治理风险。
此次雷军作(zuò)为“受害者本尊”，以全国人大(dà)代表的身份将这個(gè)严肃话题带到全国两会上(shàng)，提出治理建议，可谓恰如其分，很有说服力。
有网友可能会问，不就是恶搞一(yī)下名人，值得这么紧张吗？事实上(shàng)，这绝不是件可以一(yī)笑而过的事。如果说从前碍於(yú)技术的问题，“AI换脸拟声”还有比较明显的破绽，而现在通过合成技术生成的AI数字人，形态自然、语言流畅，在特定环境下已经和真人无异，让人难以分辨。
而且，网络上(shàng)已经出现了不少违法乱象：比如冒充名人与中老年人接触，诱使他(tā)人转账；自称是单位领导，要(yào)求他(tā)人汇款；甚至还有人通过AI技术编造险情、灾情等，以此博取流量。如果放任“AI换脸拟声”不当滥用，很有可能带来社会治理的风险，下一(yī)個(gè)受害者也许就会是我们的亲人、朋友。
我国目前对於(yú)AI合成技术已经作(zuò)出了一(yī)些规定，例如《互联网信息服务深度合成管理规定》《生成式人工智能服务暂行管理办法》等，明确要(yào)求深度合成服务提供者落实信息安全主体责任，使用者不得滥用深度合成服务。
但治理AI换脸拟声也存在一(yī)些法律和技术上(shàng)的难题。比如真要(yào)追责，取证困难，需证明视频真实性、来源及目的；主观性认定困难，需证明行为人明知违法，且证据标准高。就拿雷军来说，很多恶搞他(tā)的AI视频已经明显越过了开玩笑、玩梗的界限，损害了其個(gè)人形象，但真要(yào)一(yī)個(gè)一(yī)個(gè)去“较真”，其实并不容易。
就现阶段而言，一(yī)方面，平台理应强化主体责任，对用户發(fā)布的内容进行审核，及时处理违法信息；另一(yī)方面，也应该在法律層(céng)面尽快(kuài)制定AI行业行为准则和道德规范，推动行业自律和技术应用的伦理合规性。
“AI换脸拟声”被滥用，其实只是人工智能技术带来的治理挑战之一(yī)。在3月4日人大(dà)首场發(fā)布会上(shàng)，發(fā)言人娄勤俭也坦言：人工智能技术的發(fā)展也伴随一(yī)系列难以预知的风险挑战，在安全、社会治理、道德伦理等方面带来众多新课题，“中国政府高度重视人工智能技术的發(fā)展和风险防(fáng)范”。
因此，对於(yú)AI我们既要(yào)保持开放包容的心态，将其用好、發(fā)展好；对於(yú)新技术、新应用带来的种种问题，也要(yào)坚持在發(fā)展中治理，明确使用AI技术的底线和红线，真正让科技向上(shàng)向善、为人类服务。
版权声明
本文仅代表作者观点，不代表百度立场。
本文系作者授权百度百家发表，未经许可，不得转载。
