贝壳财经原创出品
记者 罗亦丹 陈维城 韦英姿
编辑 岳彩周
实习生 郭栩君
AI在带来便利性的同时，其深度伪造也(yě)爲(wèi)当事人带来了困扰。近期，雷军、靳东纷纷对此建言。
据人民日报消息，3月5日，在政协小组讨论上，全国政协委员靳东回应了AI換(huàn)脸导致的诈騙(piàn)问题。他说：“一些喜(xǐ)欢我影视剧的观众，被AI換(huàn)脸视频騙(piàn)得很惨，这个性质非常恶劣。希望能建立更好的规则。”
不仅仅是演员，一些企业家也(yě)经常被深度伪造。从去年国庆节开始(shǐ)，短视频平台涌现大量“雷军”发言视频。AI生成的“雷军”雷言雷语、荒诞不经，相关话题给雷军和小米造成了很大困扰和伤害。
对此，雷军在今年两会期间建议，加快单行法立法进程，在安全与发展并重的基础上提升立法位(wèi)阶。强化行业自律共治，压实平台企业等各方的责任和义务。加大普法宣传的广度力度，增强民众的警惕性和鉴别力。
对于深度伪造事件频发，某短视频平台相关负责人表示，我们平台提倡创作者在发布相关内容(róng)时使用“作者聲(shēng)明”功能，对AI生成内容(róng)进行標(biāo)注，不得发布含有侵犯他人合法权益及其他法律法规、平台规则禁止的内容(róng)，用户如发现相关违法违规内容(róng)可通过举报入口的相应举报类型进行举报。
01
代表、委员谈“AI換(huàn)脸拟聲(shēng)”治理
受(shòu)害者雷军提了这些建议
01
代表、委员谈“AI換(huàn)脸拟聲(shēng)”治理
受(shòu)害者雷军提了这些建议
展开全文
01
代表、委员谈“AI換(huàn)脸拟聲(shēng)”治理
受(shòu)害者雷军提了这些建议
全国人大代表、小米集团创始(shǐ)人、董事长兼CEO雷军：“AI換(huàn)脸拟聲(shēng)”不当滥用成爲(wèi)违法侵权行爲(wèi)的重灾区，易引发侵犯肖像权、侵犯公(gōng)民个人信息以及诈騙(piàn)等犯罪行爲(wèi)，不利于构建“以人爲(wèi)本、智能向善”的人工(gōng)智能发展生态。
建议加快单行法立法进程，在安全与发展并重的基础上提升立法位(wèi)阶。强化行业自律共治，压实平台企业等各方的责任和义务。加大普法宣传的广度力度，增强民众的警惕性和鉴别力。
全国人大代表、TCL创始(shǐ)人、董事长李东生：随着生成式人工(gōng)智能技术的发展，深度伪造技术也(yě)快速发展。对于防止AI深度伪造欺诈，建议：一是加快人工(gōng)智能深度合成内容(róng)標(biāo)识管理规章(zhāng)制度的出台。二是明确对人工(gōng)智能深度合成服务商未履行標(biāo)识义务的惩罚制度，完善未按要(yào)求进行標(biāo)识的行爲(wèi)界定、分类细则，以及相应的处罚標(biāo)准。三是加强深度合成内容(róng)標(biāo)识技术標(biāo)准和发布的管理，保证標(biāo)识的有效性，对相关内容(róng)平台出台要(yào)求，用户在发布深度合成的视频、音频等内容(róng)时，有义务对其进行標(biāo)识。四是加强国际合作，形成对人工(gōng)智能深度合成内容(róng)的有效监管。
02
如何用人类智慧驾驭人工(gōng)智能？
专家：要(yào)建章(zhāng)立制
技术反制应对AI风险
02
如何用人类智慧驾驭人工(gōng)智能？
专家：要(yào)建章(zhāng)立制
技术反制应对AI风险
02
如何用人类智慧驾驭人工(gōng)智能？
专家：要(yào)建章(zhāng)立制
技术反制应对AI风险
瑞(ruì)莱智慧联合创始(shǐ)人萧子豪：近些年来，假靳东、假雷军等AI換(huàn)脸、拟聲(shēng)事件层出不穷，AI伪造内容(róng)越来越逼真且多元。这是AI技术发展带来的“副作用”。所有技术都存在两面性，都有“双刃剑”效应。如何用人类智慧驾驭人工(gōng)智能，趋利避害地使用技术，是AI时代的重要(yào)课题。
瑞(ruì)莱智慧联合创始(shǐ)人萧子豪：监管层面，应基于已发布的法律法规要(yào)求，制定生成合成类内容(róng)標(biāo)识相关標(biāo)准，爲(wèi)管理要(yào)求落地提供细化规则和实践指导。同时，强化平台主体责任。督促服务提供者落实主体责任，确保生成合成类内容(róng)质量，做好内容(róng)標(biāo)识管理。此外，还要(yào)加强宣传教育。提高公(gōng)众对生成合成类内容(róng)的认知和辨识能力，鼓励公(gōng)众对生成合成类内容(róng)违规、標(biāo)识违规等行爲(wèi)进行投诉举报，形成全社会齐抓共管的良好氛围。
技术层面，也(yě)应聚焦技术反制能力建设，加强构建伪造内容(róng)检测技术系统，这是掌握主动的关键。
网络安全研究专家彭根：对于深度伪造，政府层面已经有相应的要(yào)求和標(biāo)准正在制定，例如要(yào)求在AI生成的内容(róng)上，不管是视频、音频，还是文字，都要(yào)添加相应的標(biāo)识或者水印。其中视频和音频方面可能会出得更快一点，这样就能够解决一些伪造的问题。
03
平台企业谈如何用AI技术
治理AI深度伪造
03
平台企业谈如何用AI技术
治理AI深度伪造
03
平台企业谈如何用AI技术
治理AI深度伪造
2023年和2024年，平台先后发布相关倡议和公(gōng)告，明确平台不鼓励利用AI生成虚拟人物进行低质创作。
目前，我们平台会对疑似AI生成内容(róng)对外显示“AI標(biāo)识”。
平台也(yě)会及时受(shòu)理用户关于AI生成内容(róng)问题的举报，禁止利用生成式人工(gōng)智能技术创作发布侵权内容(róng)，包括但不限于肖像权、知识产权等。
同时，平台禁止利用生成式人工(gōng)智能技术创作发布违背科学常识、弄虚作假、造谣传谣的内容(róng)。一经发现，平台将严格处罚。
B站：对AI深度伪造，B站在此重申此前关于“AI換(huàn)脸”平台治理规则。
2019年9月5日B站曾发布公(gōng)告称，“AI換(huàn)脸”技术仍具有一定风险与争议性，爲(wèi)维护社区良好创作生态，即日起，对于此类内容(róng)将不予推荐，同时禁止排行榜和热门位(wèi)置的展示。
版权声明
本文仅代表作者观点，不代表百度立场。
本文系作者授权百度百家发表，未经许可，不得转载。
