潮新闻客户端 记者 王静
短视频平台上(shàng)，一个家喻户晓的明星正在聊孩子的教育，猝不及(jí)防就打起了广告：“从小给孩子喝(hē)某(mǒu)某(mǒu)牌奶粉，聪明长得壮。”表(biǎo)情和口型完全对不上(shàng)，但声音却相似得出奇。
视频通话里的女儿正在撒娇向妈妈要生活费，敲门声响起，妈妈起身去开门，门口站着的才是“真女儿”，屏幕里传来的声音、容貌和眼前的真人几乎一模一样……
近几年，随着AI技术的更新迭代，给人们生活带来便利的同时，也给了犯罪分子的可乘之机。全国“AI换脸拟声”诈骗、侵权案频发，引人关注。
3月4日，全国人大代表(biǎo)雷军在微信(xìn)公众号上(shàng)发布“我的2025两会建议”，其中包括，关于加(jiā)强“AI换脸拟声”违法(fǎ)侵权重灾区治理的建议。
“AI换脸”之扰
雷军苦之久矣
事实上(shàng)，雷军本人深受“AI换脸拟声”之苦，2024年国庆期间，网络上(shàng)流传大量未经授权的“雷军语音包”，內(nèi)容从吐槽到恶意，数量之多，让他无从招架。还有利用雷军的采访视频片段，配上(shàng)AI拟声，为自己带货。甚至还有不法(fǎ)分子利用AI深度合成视频，进行诈骗，严重损害了他的个人形象和声誉。
雷军表(biǎo)示，“AI换脸拟声”不当滥用造成了违法(fǎ)侵权行为的重灾区，易引发侵犯肖像权、侵犯公民个人信(xìn)息以及(jí)诈骗等犯罪行为，带来社会治理等风险。基于此，他提出加(jiā)快单行法(fǎ)立法(fǎ)进程、压实平台企业等各方的责任和义务等建议。
对此，雷军建议，一是针对“AI换脸拟声”等某(mǒu)一代表(biǎo)性问题，探索推出人工智能单行法(fǎ)，提高立法(fǎ)位阶及(jí)其效力，分级分类的基础上(shàng)进行务实治理，明确“AI换脸拟声”应用边界红线，完善侵权证据规则，加(jiā)大对利用人工智能技术实施犯罪行为的刑事处罚力度。
二是强化行业自律共治，压实平台等各方的责任。支持平台企业开发可精准识别人工智能深度合成內(nèi)容的技术能力，优化升级通信(xìn)软件和內(nèi)容平台巡查审核机制、投诉举报机制、应急处理机制，确保及(jí)时阻断问题內(nèi)容传播。
展开全文
三是建议加(jiā)强人工智能方面的法(fǎ)制宣传教育，增强民众的警惕性和鉴别力，聚焦重点人群，在中小学人工智能教材中加(jiā)入伦理规范內(nèi)容，深入老年人聚居的社区开展相关知识普及(jí)活动，在全社会夯实“以人为本、智能向善”的人工智能发展生态。
“像蝗虫一样害人”
AI侵权为何屡禁不止
不只是雷军，许多公众人物如医学专家张文宏、育儿专家李玫瑾、影视明星刘德华、靳东等都在不同场合呼吁过对“AI换脸拟声”加(jiā)强监管，张文宏甚至被(bèi)换脸进行直播带货蛋白棒，让不少网友信(xìn)以为真。
张文宏作出回应称，视频是AI合成的，“我在发现这事后立即投诉过那个AI合成的视频，但是它的账号一直在换，自己最后也没精力了。这些假(jiǎ)的AI合成信(xìn)息就像蝗灾一样，一次又一次发生，像漫天飞过来的蝗虫一样害人”。
为何对“AI”侵权的监管这么难？浙江浙联律师事务所高级权益合伙人朱觉明表(biǎo)示，原因是多方面的。
首先，AI工具开源易得，侵权人容易完成换脸操作，有些侵权主体多通过境外服务器隐藏身份，所以执法(fǎ)追踪难度大。
其次，现有平台审核机制难以实时识别深度伪造內(nèi)容，尤其是语音合成技术逼真度高，普通用户因“眼见为实”难以辨别，执法(fǎ)难度大。
此外，多方责任界定(dìng)困难也是“AI换脸”侵权猖獗的原因之一。
朱律师表(biǎo)示，“AI换脸”侵权涉及(jí)平台、技术开发者、內(nèi)容传播者等多方责任，现有法(fǎ)律对平台责任、技术边界界定(dìng)模糊。在司法(fǎ)实践中，对赔偿经济损失界定(dìng)较难，对违法(fǎ)者震慑不够。“在裁判文书网上(shàng)，可以找到不少关于AI侵权的判决案例，通常判法(fǎ)为道歉及(jí)赔偿，赔偿金大多在千元左右。”
律师表(biǎo)示，AI侵权的判罚存在法(fǎ)律体系滞后，现有法(fǎ)规如《互联网信(xìn)息服务深度合成管理规定(dìng)》效力位阶低，內(nèi)容分散，难以覆盖新型侵权行为。现行法(fǎ)律主要依赖《民法(fǎ)典》等进行民事追责，缺乏针对AI技术的专项立法(fǎ)。
律师支招：谨防个人生物信(xìn)息泄露
“AI换脸”防不胜防，现实生活中，我们该怎么办？朱律师也支了招。
1.提高警惕与信(xìn)息核实
若出现视频通话涉及(jí)转账请求，可要求对方做特定(dìng)动作，如摸脸、眨眼进行验证身份，观察画面是否出现扭曲或异常，也可以挂断后主动通过其他渠道（如电话、线下见面）核实信(xìn)息真实性，避免上(shàng)当。
此外，我们可以学习识别AI合成內(nèi)容的“破绽”避免受骗，及(jí)时识别不自然的语音停顿、面部光影异常等异常情况。当然， 需要留意出现“AI內(nèi)容标识”的提示时，应当特别警惕。
2.防止个人生物信(xìn)息泄露，谨慎授权
我们避免在社交平台公开高清正脸照、声纹样本，谨慎授权APP获取摄像头、麦克风权限，防止不法(fǎ)分子取得公民的个人生物信(xìn)息和相关“授权”。
在实践中，我们可以启用多重身份验证（如视频+指纹+短信(xìn)验证），减少单一生物信(xìn)息泄露的风险。
“转载请注明出处”
版权声明
本文仅代表作者观点，不代表百度立场。
本文系作者授权百度百家发表，未经许可，不得转载。
