深度伪造的强烈反弹正在走向全球，而且不再关乎某一家公司

有一段时间，深度伪造问题看起来像是一系列孤立事件。这里一位政客，那里一位演员，一个带着宽松护栏发布、随后被打补丁的工具。过去一个月发生变化的是，世界各地的监管机构和法院不再把这些视为一次性事件，而是开始围绕肖像、同意和责任构建一套共享的法律机制。

欧盟率先出手。从8月2日起，欧盟《人工智能法案》要求任何看起来逼真的AI生成图像、音频或文本都必须明显标注，并带有揭示其合成来源的水印。公司面临的罚款最高可达1500万欧元或全球营业额的3%。现有系统有四个月时间合规。这是首个将标注设为硬性要求、而非自愿承诺的主要司法辖区，而且它也适用于尚未经过人工编辑审核的公共利益文本。

欧盟执法机制的规模值得强调。谷歌的SynthID已经为超过1000亿张图像以及相当于6万年的音频添加了不可见水印。已有180多个组织签署了欧盟委员会的自愿行为准则。标注规则是这一自愿推动的法律后盾，也让监管机构拥有了此前没有的具体抓手。

印度则在另一条轴线上行动。印度最高法院已中止古吉拉特邦高等法院的诉讼程序，并正在权衡是否在全国范围内合并深度伪造诉讼，相关通知可于10月5日回复。推动集中化的原因看似官僚，实则非常实际：如果每个高等法院对“深度伪造”的定义都不同，平台最终可能一边遵守古吉拉特邦的规则，一边违反孟买的规定。与此同时，孟买高等法院本周限制未经授权使用演员萨曼莎·鲁思·普拉布（Samantha Ruth Prabhu）的姓名、形象和声音，命令下架AI生成和变造内容，并初步认定其人格权和公开权受到侵犯。她是该诉讼中点名的18个被告方平台、AI开发商和媒体公司之一。法院将裁决建立在宪法权利之上，认为她的公开权和人格权同时受到言论自由权以及生命权、隐私权和尊严权的保护。

美国正在通过自己的渠道推进。《禁止伪造法案》（No Fakes Act）将针对个人形象、肖像和声音的数字复制品创设一项联邦公开权。该法案已被重新提出，并于6月获参议院司法委员会赞成票通过并提交。美国演员工会-美国电视和广播艺人联合会（SAG-AFTRA）大力推动该法案，而好莱坞就是测试案例。即将上映的电影《As Deep as the Grave》的一支预告片中，出现了AI生成的瓦尔·基尔默（Val Kilmer），他已于2025年去世，并在片中向一位真人演员说了一句台词。基尔默在去世前已被选角，也曾支持AI语音工作，但更大的问题是，制片厂能否在没有法律摩擦的情况下复活已故演员的形象，而这正是《禁止伪造法案》旨在回答的问题。

贯穿这一切的主线是，法律正在收敛到一个行业花两年时间抵制的原则：一个人的脸和声音不是免费的原材料。欧盟将肖像视为必须标注的东西。印度法院将其视为人格权。美国正在辩论一项联邦公开权。这些尚未尘埃落定，但方向是一致的，而且对“快速发布、事后修补”并不友好。

这里存在一种真实张力，公民自由团体已经指出。美国公民自由联盟（ACLU）、电子前沿基金会（EFF）和民主与技术中心（CDT）在6月的一封信中警告，宽泛的公开权可能制造“起哄者否决权”，让不喜欢被嘲讽的有权势者要求下架讽刺和评论。这种担忧有其道理。保护受害者和武装审查者之间的界线确实很细，而正在起草的法律将决定它倒向哪一边。权利太窄，无法保护受害者。权利太宽，则把对付批评的武器交到权势者手中。

法律讨论还不断绕着一个技术维度打转。在训练期间内置安全性的模型，与生成后外挂过滤器的模型之间的区别，已经具有法律相关性。一旦图像存在，过滤器可能失效，文件可能扩散，伤害也已经发生。监管机构已经注意到这一区别，它也开始体现在责任如何分配上。先生成、后审核的公司，如今比把约束嵌入模型本身的公司承担更多风险。

对任何关注这一领域的人来说，要追踪的信号不是下一次模型发布，而是下一次法院裁决、下一份监管指引、下一道下架命令。这些才是塑造工具被允许做什么的输入，而它们到来的速度是行业不习惯的。技术不再领先于法律；法律正在追赶，而且差距缩小的速度快过安全团队的反应速度。

这一轮与早先更安静的执法不同之处在于，案件正同时在不同司法辖区、围绕同一原则堆叠起来。这不再是一个监管机构对一桩丑闻作出反应。这是并不相互协调的法律体系之间一次协同性的趋同，这比任何单一法院裁决都更强有力的信号。当欧盟、印度和美国在短短几周内都得出“一个人的肖像受保护”的结论时，行业必须把它当作新的基线，而不是一系列例外。

技术论证中也有一条主线。这些案件中反复出现的一个细节是，伤害本来是否可以通过设计、而非事后审核来预防。惹上麻烦的模型，是先生成后过滤的模型。被视为负责任的模型，是在训练期间嵌入约束、并默认附带来源元数据的模型。内置安全与外挂安全之间的这一区别，正在成为法律分界线，也为每个实验室提供了一份具体清单，说明“做对”现在意味着什么。

对创作者和工具开发者来说，实际转变已经到来。过去可选的问题——这个模型会不会处理针对真实人物的请求，它是否嵌入来源元数据，是否有真正的举报路径——如今已成为可辩护产品与法律责任之间的区别。深度伪造不再是交给信任与安全团队处理的细分问题。它们是一个附带罚款的合规问题，横跨多个司法辖区，而且就在当下。

最可能的结果不是生成式媒体被扼杀。而是未经同意使用他人面孔的成本被计入定价，而那些从一开始就把同意和来源嵌入其中、而非在丑闻后外挂上去的工具将会存活。这是一个真实的变化，而且发生得比业内大多数人预期的更快。不考虑滥用问题就发布图像或视频工具的窗口正在关闭，并且正按全球时间表关闭。