← 返回博客
Ai预计阅读 8 分钟

4.7 万条信息、3961 个账号之后,AI 假冒带货要补的是发布那道闸

发布于 2026年11月8日
4.7 万条信息、3961 个账号之后,AI 假冒带货要补的是发布那道闸

11 月 6 日,网信部门通报了一轮集中整治的结果:清理违法违规信息 4.7 万余条,处置账号 3961 个。通报的对象写得很具体,是"利用 AI 技术假冒仿冒知名公众人物虚假带货、吸粉引流、误导网民"。

通报里点了四类情形,账号名打了码,但平台分布很清楚。微信"花\*\*记""时\*\*叙""秀\*\*8",抖音"微\*\*天""S\*\*物",小红书"小\*\*C""瓦\*\*款",做的是未经授权仿冒名人肖像、合成名人声音,或者盗用公众人物家属的照片做商品推广。微信"山\*\*话""旧\*\*故"用 AI 特效编造某位公众人物患阿尔兹海默症的谣言。抖音"才\*\*河"、小红书"秋\*"、B 站"老\*\*迷"、快手"云\*"假冒本人,用第一人称发观点、讲经历、说情感话术,把人往关注上引。快手"康\*"生成低俗舞蹈和亲密互动画面,靠这个吸粉再变现。

这四类的商业动机强弱差得很远。第二类和第三类要的是流量,第一类和第四类最终都落到交易上。而第一类里有一句话值得单独拎出来:盗用公众人物家属的肖像照片、形象变体。这条路径绕开了"名人本人素材难拿"的问题,用一张家属合照加上换脸,就能拼出一个看起来可信的带货视频。

处罚落在账号上,问题出在发布前

通报的措辞是"处置账号",不是删除某条视频。这个区别不小。单条内容删了可以重发,账号被封才断掉收款链路和粉丝池。从治理效率看,这是更有痛感的一刀。

但账号处置是事后动作。央视《新闻联播》的配评把平台该做的四件事写成了顺序:早识别、早预警、早拦截、早清理。四个"早"里,前三个都在发布之前。

问题在于,AI 换脸的生成成本已经低到可以批量试错,而识别成本仍然很高。一条 15 秒的仿冒视频,用现成工具几分钟能出,人工审核要看几十秒才敢下判断,机器审核还要面对压缩、裁切、二次录制这些规避手段。生成和识别的成本曲线现在是反着的。

《人工智能生成合成内容标识办法》从 2025 年 9 月 1 日起施行,四部门联合发布,要求显式标识和隐式标识两条都做。显式是用户能看到的提示,隐式是文件元数据里的暗记。这套设计在正常发布流程里是有效的。问题在于,恶意账号本来就不会老老实实走正常流程,元数据可以清,显式标识可以裁,画面可以翻拍。

所以平台真正能咬住的不是水印,是人和物的比对。公众人物的人脸和声音属于可枚举的小集合,比对一个已知名单,技术上比判断"这条视频是不是 AI 生成"要现实得多。这也是"事前预防"能落地的地方:发布环节拦一次,比事后追溯一千条更省。

A stack of blank matte cards feeding into a narrow slot in a brushed steel plate.

司法那头已经把举证责任挪了位置

11 月 2 日上海一中院那起配音演员的案子,给了一个很具体的信号。侵权音频和本人声音在 28 个共振峰声学指标里有 24 个偏离度小于 10%,其中 16 个小于 5.36%,"较为相似"和"高度相似"合计占 90%。法院判平台运营方赔 5 万元。

更关键的是举证责任的分配。权利人只要证明两件事:自己的声音有被获取的合理渠道,合成语音与自己高度相似,初步举证就完成了。接下来轮到平台证明训练数据来源合法,或者证明合成语音与权利人无关。判决书里把这套规则的意义说得很直白,是为了回应 AI 侵权里"证据偏在"的结构性问题,防止平台用"技术黑箱""员工离职无法确认"这类理由把责任推掉。

这个案子的裁判思路对应的是 2026 年 9 月 7 日《最高人民法院关于依法审理涉人工智能纠纷案件的意见》第四条。同一条思路放到今天这轮整治里,意思是一样的:谁掌握数据,谁就要能拿出数据的来路。

对平台的现实含义是,训练语料的来源记录、素材授权的凭证、审核环节的日志,这些东西平时看着像合规文件,出事时它们是唯一能证明自己没责任的材料。留痕的价值不在平时,在被告的那一天。

商家和创作者这边,合规其实只有三条

第一条是授权链条。用真人形象、真人声音,不管是自己拍的还是合作方给的,都要有能落到纸面的授权范围。上海那个案子里,平台方的抗辩是"不知道对方是配音演员",法院没有接受这个理由,因为不知道不等于可以用。

第二条是标识。显式标识放在画面里,隐式标识留在文件里。这条现在已经是硬性要求,不是可选项。很多团队嫌标识影响观感,把它做得极小,这在实际执法里很可能被认定为不合规。

第三条是素材来源留痕。这条最容易被跳过,也最容易在纠纷里致命。素材从哪来、谁给的、授权覆盖哪些用途,最好和成片一起存档,而不是散在几个人的聊天记录里。

这轮整治不是一次性的

通报的最后一句写的是"下一步,将持续加大整治力度""进一步压实网站平台主体责任"。这种表述在近两年的 AI 治理文件里出现过很多次,指向的是常态化,不是运动式。

对做 AI 内容生意的人来说,判断标准其实变简单了:能不能说清画面里的人是谁、授权从哪来、这条内容有没有标。三件事都答得上来,就不用担心某天账号突然消失。答不上来,规模做得越大,风险累积得越快。

对平台来说,竞争的焦点会从"能不能生成"转到"能不能在发布那一秒拦住"。3961 个账号是这一轮的成绩单,下一轮的成绩单大概不会看处置了多少,而会看拦下了多少。

相关文章