图/王晨

10月18日，演员吴越发了一条微博：“一觉醒来，谁在利用AI肆意抓人替自己作恶？这位‘花姐’你骗了多少人的钱？请如数奉还！太恶劣！！！”

微博配图来自视频号账号“花姐美肤日记”。该账号此前发布视频中的“吴越”拎着一瓶次抛精华液说，“这个产品不是他们找我，是我找他们……我都说今天我直接送，闭着眼睛用、闭着眼睛囤，孕妇妈妈都能用。”神态、语气、声线都像足了她本人，普通用户很难第一时间识别出内容为AI合成。

一段时间以来，从演员到知名专家，一长串公众人物的脸被“借”进了直播间，热情地为一款款陌生商品背书。这场由AI制造的“被代言”风波，打破了大众“眼见为实”的固有认知，也暴露出深度合成技术滥用带来的全新风险。

低成本灰色产业链，人人面孔皆可“借”

事实上，近年来，利用AI深度合成的视频频频出现，被“偷脸”的名单，已经很长。

在吴越被侵权的视频末尾，“邓亚萍”接力出场，推荐同一款产品。当天下午，邓亚萍团队回应：“我们从未对外授权过邓亚萍的AI形象及AI换背景。”

据此前报道，演员温峥嵘半夜刷手机，撞见“自己”正在直播带货。她进直播间问了一句“你是温峥嵘，我是谁”，下一秒就被拉黑。她的团队一天举报过50个假冒账号，最后她留下一句话：“我现在很难证明我是我。”

此前，全国政协委员张文宏被AI“克隆”去卖蛋白棒，销量过千。他形容这些假视频“像蝗灾一样，一次又一次发生”。

乱象滋生的核心，在于实现AI深度合成音频视频并非难事，AI换脸、声音克隆的造假门槛大幅降低，一条低成本伪造视频的灰色产业链已然成形。

据媒体报道，部分电商平台上“明星换脸”早已明码标价：普通还原度的视频，半分钟75元、一分钟150元；要求“真人感还原形象、表情动作更自然”的，一分钟700至1000元。声音克隆更便宜，几元到几十元不等。

有记者做过实测，在某主流AI视频工具里上传一张外国男演员的公开照片，提示词写明其身份，要求生成“带货羽绒服”视频，系统立刻弹出“由于版权限制，暂时无法创作”。记者删掉提示词中的姓名和身份描述，只保留画面要求和口播内容，视频顺利生成。也就是说：机器认得“名字”，却不认得照片里那张脸。只要不写出他是谁，一张网上随手可搜的公开照片，就足够让AI生成一段以他为主角、张口带货的视频。

AI合成是否越界要看三个层面

如何判断AI深度合成视频侵权了呢？

“根据民法典相关规定，肖像权、声音权依法受到保护，而当伪造的名人推荐的信息用于商品销售，致使消费者基于错误认识购买商品时，还可能侵犯消费者的知情权，涉事经营者亦可能违反诚信商业原则。”全国政协委员、金杜律师事务所高级合伙人张毅表示。

张毅认为，判断一次AI合成是否越界，要同时看三个层面：一是合法获取，即取得数据主体的明确同意，民法典禁止以信息技术手段伪造他人肖像，声音保护参照肖像权规则；二是明确用途，即便获得授权，用于与告知目的不符的其他用途同样可能构成滥用；三是数据保护，声音和人脸都是生物特征，存储传输若缺乏必要技术措施，一旦泄露就是隐私权的实质侵害。

北京航空航天大学法学院副教授赵精武表示，我国《互联网信息服务深度合成管理规定》《人工智能生成合成内容标识办法》《生成式人工智能服务管理暂行办法》等法律法规早已明确禁止此种滥用AI技术的行为。

“即便涉事账号标注了‘含AI生成’等内容，也不能免除账号实际经营者的法律责任，老年人等特殊消费者在不清楚技术原理的情况下，可能对含有AI生成标识的网络信息内容形成错误认知，还可能构成虚假代言、欺骗消费者等情况。”赵精武说。

赵精武同时指出，“此类事件之所以还频繁发生，是因为行为人违法成本太低，即便被发现，直接换号‘复活’即可。”

法治织密防护网，让造假者付出代价

“技术本身没有善恶，但约束它的规则更要跟得上。”在张毅看来，问题的关键不在技术跑得太快，而在规则的牙齿要够硬。

实际上，面对这些挑战，治理的框架正在逐步构建与完善。

2022年，《互联网信息服务深度合成管理规定》为深度合成服务划定了“底线”和“红线”，明确服务提供者具有相应合规义务。

2025年，《人工智能生成合成内容标识办法》施行，要求AI生成内容必须添加标识。2026年，《数字虚拟人信息服务管理办法（征求意见稿）》发布，成为国内首个专门针对数字虚拟人的规范性文件。

2026年9月7日，最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》，这是首部由国家最高审判机关出台的涉AI司法裁判规则文件。

《意见》第十条明确：经营者提供商品或者服务时，利用人工智能实施“仿冒名人带货”且构成欺诈，消费者依据消费者权益保护法第五十五条主张惩罚性赔偿的，人民法院依法予以支持。

最高法9月发布的一起典型案例中，某文化公司为销售育儿图书，委托主播使用家庭教育学者李某瑾的公开演讲片段，配以与其声音高度近似的AI合成音频，点击视频侧边按钮可直接跳转下单。北京互联网法院认定该行为侵害李某瑾肖像权和声音权益，文化公司未审核素材来源与授权，存在过失，构成共同侵权。2025年7月18日，法院判决其赔礼道歉并赔偿12万元，双方均未上诉。

有专家表示，这个案子真正的分量不在12万元，而在两点：一是“可识别性”成为认定标准，不必是本人录音，听众听得出是他就算；二是委托卖货的商家不能再装无辜，“素材哪来的、有没有授权”必须过问。

更值得一提的是，今年中央网信办也部署了“清朗·整治AI应用乱象”“清朗·整治短视频虚假人设乱象”等专项行动，后者专门堵上了“以AI标签规避治理责任”这个漏洞。

仍需进一步压实平台主体责任

对于普通民众而言，面对日益逼真的AI生成内容，如何保护自己？

张毅给出了具体建议。“首先，可通过观察细节初步判断：AI生成的视频中，人物的眨眼频率、嘴唇动作与语音的同步性、背景的光影变化等，存在不自然的痕迹。其次，注意内容来源是否可靠，对于突发的‘热点新闻’尤其是骇人听闻的新闻，建议通过多个权威渠道交叉核实。再次，可以利用技术工具辅助识别，例如部分平台已开始对AI生成内容添加提示。”

“最重要的一点，不轻易相信‘眼见为实’，不随意点击来源不明的链接或扫描陌生二维码，更不要因一段伪造视频就进行转账或投资。如果怀疑遭遇AI伪造诈骗，应保留证据并及时报案。”张毅表示。

对于平台经营者，赵精武认为，仍需要在执法监管层面进一步压实平台主体责任和增加行为人的违法成本。

“虽然平台经营者并非直接的行为人或参与者，但是其对平台内的网络信息内容负有事前的审查义务。其义务履行方式不能仅仅局限于‘AI标识’是否增加，更应当拓展至直播内容是否会导致消费者严重误解、数字人应用是否取得权利人许可等事项。当然，这不是要求平台经营者事无巨细地都需要进行‘调查’，而是要求其尽可能注意潜在风险，既包括实际权利人通知平台删除侵权内容后能否及时核实和处置，也包括平台内部管理制度是否设置了诸如提供明星名人授权证明等形式审查流程。”赵精武表示。

针对行为人通过更换平台、重新注册账号等方式躲避平台管控等问题，赵精武建议执法机构与各大平台建立持久有效的执法信息沟通机制，全面压缩以换号、换平台等方式规避责任的违法空间。

“技术的善恶之分，终究取决于使用它的人以及约束它的规则。屏幕背后，真假之间，真正需要守护的，是每个人对真实世界的信任。而这种信任的建立，既离不开法律的完善与监管的落实，也离不开每个普通人的理性与警觉。”张毅表示。（记者 王菡娟）