" 我家里人都分不清是不是真是我了。" 近日，因本人形象被盗用于广告宣传，演员王劲松下场 " 打假 "。

随着 AI（人工智能）发展，这种 " 把我 AI 了 " 问题已不新鲜。此前，周星驰工作室也公开表示周星驰人脸存在被滥用的风险。

从假冒图片到 AI 换脸、换口型，AI" 魔改 " 内容的仿真感越来越强。当人们沉浸在视频生成 AI 带来的视觉盛宴时，乱象监管同样被推至台前：AI 篡改图片、视频的法律边界在哪？AI 假图如何系统治理、从源头规范？

【代表委员圆桌】

钟铮 全国人大代表、美的集团副总裁

高洁 全国政协委员、陕西省人民检察院副检察长

齐向东 全国政协委员、奇安信集团董事长

AI 造假，本质是技术红利碰撞版权规则

钟铮：除了过去用视频传播，在 2025 年我们看到用数字人直播的传播场景更多，它的识别难度更大。随着数字人制作和运营门槛降低，其在直播领域的滥用和违规现象日益增多，暴露出身份虚假、内容失范、权益纠纷、监管滞后等突出问题，这些问题若不及时治理，将扰乱市场秩序，损害用户权益，影响人工智能技术的社会信任与应用前景。

高洁：随着人工智能快速发展与广泛应用，AI 生成图片在电商领域普及应用，显著提升了商品展示效率与行业运营效能。与此同时，AI 生成虚假图片乱象日益突出，扰乱了市场秩序、侵害消费者合法权益。

在电商领域，AI 生成虚假图片的乱象影响了市场秩序、侵害消费者合法权益，部分不良商家利用 AI 制作虚假宣传图、过度渲染效果图，引发 " 图文不符 "" 货不对板 " 等消费纠纷；少数不法分子通过 AI 伪造商品瑕疵图，恶意退款、实施诈骗，给正规商家造成经济损失。

齐向东：AI" 魔改 " 视频的现象，本质是技术红利和版权规则的碰撞。一方面，AI 技术快速迭代，让普通人也能轻松实现内容创作、二次改编；另一方面，有人借着 AI 肆意篡改、盗用、恶搞，严重侵犯原创的合法权益。久而久之，没人愿意再做原创，最终伤害的是整个行业的活力。

法律责任界定较为模糊，电商平台应承担 " 打假 " 责任

高洁：现有规定对电商场景下 AI 假图的认定标准、处置规则、处罚幅度不够明确，法律责任界定较为模糊，执法实践缺乏统一依据。监管技术与手段相对滞后，AI 假图制作门槛低、篡改成本小、识别难度大，即使《人工智能生成合成内容标识办法》施行后，未按规定标识、擅自篡改标识等问题依然存在。此外，协同治理机制尚未形成，监管部门、电商平台、AI 技术服务方之间数据不互通、职责不清晰，难以形成全链条治理合力。

电商平台应该承担起相应责任。一是督促电商平台健全 AI 假图审核机制，对食品、美妆、农产品等重点品类商品图片实行强化审核，接入权威检测技术工具，提升识别精准度，降低误判影响；二是完善平台信用惩戒体系，将发布虚假 AI 图片、恶意退款索赔的商家及个人纳入电商信用黑名单，实施跨平台联合约束与联合惩戒；三是畅通消费者和正当商家的维权渠道，优化投诉处理流程，提升维权效率；四是面向消费者开展 AI 图片风险提示与辨别知识普及，增强风险防范意识，引导理性消费。

钟铮：数字人乱象首先是因为我们的法律法规体系不完善，另外这背后涉及肖像权、知识产权、著作权等方面，如何对人工智能合成内容进行定义需要明确。

加强数字人直播管理，应压实多方主体责任，加强跨部门协同监管与公众监督。督促商家、平台、AI 工具提供方履行各自主体责任，明确各方在内容审核、标识合规、权益保护等方面的义务；畅通用户举报渠道，鼓励公众参与监督；建立网信、广电、市场监管等部门间的常态化协同监管机制，统一规则，共享数据，联合执法，形成监管合力。

" 眼见为实 " 彻底终结，AI 生成内容要戴上紧箍

高洁：由工信部门牵头，加大技术研发支持力度，支持科研机构与企业开展联合攻关，研发具有自主知识产权的 AI 生成内容标识、检测、溯源技术，建设统一的 AI 生成内容标识核验公共平台。

由网信、工信、市场监管等部门联合制定电商领域 AI 生成内容管理细化规定，明确 AI 图像显式、隐式标识要求，对重点品类强制使用不可篡改标识，界定 AI" 假图 " 违法违规情形，建立阶梯式处罚机制，强化法律刚性约束。

钟铮：加快推进人工智能法等相关立法进程，设立数字人直播专项管理条款；推行数字人注册备案制度，强制公示其技术生成属性和背后运营主体信息，做到 " 数字形象可标识、责任主体可追溯 "。修订《消费者权益保护法》《广告法》等，明确将数字人直播纳入监管范畴，严厉打击虚假宣传、仿冒名人等消费欺诈行为。同时，完善知识产权与人格权相关法律法规，明确数字人制作中真人肖像、声音、个人信息等的授权使用边界，加大对无授权使用行为的处罚力度，保障权利人合法权益。

齐向东：在深度伪造技术面前，" 眼见为实 " 彻底终结，普通人要做到 " 一看二查三防四维权 "，简单实用。

一是看细节，找破绽。在观看视频时，可以留意平台提示，或者自己仔细甄别一些蛛丝马迹。比如光影是不是自然，人物面部的口型与声音是不是完美同步、眼神僵不僵硬，背景是否清晰合理等。

二是查源头，信权威。增强信息免疫力，不轻信非官方、无信源的 " 爆料 "" 内幕 "" 名人喊话 "，对于诱导投资、转账等内容，更要提高警惕，通过官方渠道进行二次核实，不要被牵着鼻子走。

三是防泄露，护隐私。不随意公开高清正面照、原声视频，关闭不必要的人脸以及声音采集权限，减少个人信息被用于 AI 训练与伪造的风险，避免卷入诈骗案件。

四是会维权，快处置。当发现自己被 AI 伪造侵权，要第一时间截图录屏固定证据，向平台投诉下架，向网信、公安部门举报；当自己遭受名誉损害、诈骗、敲诈勒索，更要果断报警并提起法律诉讼。

新京报贝壳财经记者 / 张晓慧 罗亦丹 陈维城 徐雨婷 编辑 / 王进雨 制图 / 师春雷 校对 / 刘军