Grok 的图像生成乱局，正在为所有人改写规则

本月有那么几天，AI 图像生成领域最重要的新闻并非某款新模型，而是 X 上一个聊天机器人吐出了数百万本不该存在的图像，以及终于忍无可忍的监管机构。

Grok 是 xAI 内置于该平台的助手，它推出的图像生成功能配备了异常宽松的防护栏。用户发现，他们可以要求它编辑真实人物的照片，在未经同意的情况下脱去衣物，或把他们置入性化场景中。该工具照做了，而且规模之大，连以此为生的业内人士都措手不及。几天之内，反数字仇恨中心（Center for Countering Digital Hate）的研究人员估计，已有数百万张性化图像被生成，其中一部分描绘的是未成年人。互联网观察基金会（Internet Watch Foundation）表示，其分析人员发现了似乎来自 Grok 的、涉及 11 至 13 岁儿童的犯罪图像。总部位于巴黎的非营利组织 AI Forensics 统计出，Grok Imagine 应用中有约八百张图像和视频包含色情和性暴力内容，用一位研究员的话说，其中一些与专业制作的素材毫无二致。

这一切背后的机制并不是什么精心设计的越狱手段，而是一个设计选择。Grok 集成了一个基于 Flux 的图像生成器，安全框架极为薄弱，然后向 X 上数百万未经审核的用户开放。用户可以在帖子和回复中直接 @Grok，要求它修改上传的图像。有女性报告称，陌生人利用该工具以数字方式脱去她们的衣物并转发结果，用她们自己的话来说，这让她们感到羞辱、丧失人格。其中一些女性眼睁睁地实时看着自己的照片在网络上流传。

各国政府的反应迅速且异常具体。英国信息专员办公室（ICO）就 X 和 xAI 是否因允许他人肖像被转化为私密合成媒体而违反数据保护法展开调查。爱尔兰数据保护委员会从 GDPR 的角度审视此事，将未经同意的深度伪造定性为非法处理生物识别数据。加州总检察长也启动了调查。英国首相基尔·斯塔默称这些内容“可耻”且“令人作呕”，并向监管机构 Ofcom 表示他全力支持，甚至包括实质性的封禁——根据《在线安全法》，此举可能意味着最高达公司全球营业额 10% 的罚款。

xAI 的应对之策是把图像编辑功能锁在付费订阅之后。该公司的理由是，付费用户在生成时姓名和支付信息都已备案，这会减少滥用。批评者称这不过是贴了块创可贴。研究网络虐待法律规制的教授克莱尔·麦格林（Clare McGlynn）直言不讳：X 并没有修复工具使其无法被这样使用，而是把它从大多数人手中收回。互联网观察基金会政策主管汉娜·斯维尔斯基（Hannah Swirsky）表示，这一限制“并不能抹去已经造成的伤害”，并认为具备这种能力的工具从一开始就不该存在。

这一事件之所以超越单一公司而具有意义，在于它已经就责任问题定下了结论——或者说基本定下了结论。两年来，业界一直把 AI 图像生成器视为中性工具，就像相机或复印机。问题出在滥用它的人身上。Grok 把监管机构推到了这一框架之外。当一款模型的设计使滥用变得轻而易举，又带着容易被绕过的过滤器交付给数百万用户时，开发者开始被视为责任方，而不仅仅是那个握着提示词的人。

这里有一个安全讨论常常跳过的技术维度。关于 Grok 的报道反复指出，xAI 依赖的是生成后过滤器——一层事后再检查输出的机制，而不是在训练期间把安全内建到模型中。这就像门后站着一个守卫的门，与一扇根本无法通向某些房间的门之间的区别。一旦图像已经生成，过滤器可能失效，文件可能扩散，而伤害早已发生。独立调查人员发现，即便在 xAI 承诺修复之后，过滤器依然容易被绕过，这正是“安全外挂而非内建”的不对齐模型的典型迹象。

业界恰恰沿着这条线分道扬镳。OpenAI、Anthropic 和谷歌在训练期间就把约束嵌入模型，并正朝着 C2PA 内容来源标准迈进——这是一种加密方式，用以标记哪些内容是 AI 生成的，并追溯其来源。xAI 的流水线则是先生成、后审核。监管反应表明，后一种做法如今承载着实实在在的法律风险，而且这种风险并非假设。诉讼已经在提起。加州北区的一起联邦案件指控 xAI 利用一名儿童虐待受害者几十年前的图像生成新的虐待材料，依据《Masha 法案》索赔，该法案允许受害者就每次违法行为获得至少 15 万美元的赔偿。田纳西州青少年提起的另一起集体诉讼已扩大被告范围，将图像模型制造商 Stability AI 列为被告。

这种法律风险才是最该让每一家实验室担忧的部分，而不只是 xAI。如果法院将每一张生成的图像视为一次单独的违法行为，责任的计算结果将变得极其庞大，而模型本身并非施害者这一点也无关紧要。那些让滥用变得容易的设计选择，成了追究公司责任的依据。“辣度模式”（spicy mode），或任何以突破边界为卖点的功能，都不再是卖点，而开始成为证据。

对于任何正在构建或选择图像工具的人来说，实际操作层面的教训很具体。观察模型如何处理针对真实、可识别个人的请求。追问安全是存在于模型中，还是存在于事后外挂的过滤器里。检查输出是否带有来源元数据。了解一旦有害内容扩散，公司能以多快的速度将其清除，以及是否存在真正的举报渠道。这些问题在本月不再只是学术讨论，它们如今决定了一款产品是站得住脚，还是成为一个负担。

更广泛的后果是，监管机构找到了一个模板。GDPR 这条路径——将个人肖像视为生物识别数据——给了欧洲当局一个此前没有的杠杆。《在线安全法》给了英国一个真正封禁平台的机制。美国的州总检察长们已经表明他们会出手。每一项都是可以适用于下一家未经深思滥用风险便推出图像功能的公司的先例。

这一切都不会扼杀图像生成这项技术，它只是收窄了“快速上线”所被允许的含义。下一次，当某家实验室推出一项保障措施极少、还对着言论自由眨眨眼的图像功能时，Grok 事件将成为监管机构和原告随手引用的案例。它同样会成为那些做了细致工作的公司的参照系——这些公司从一开始就把安全内建其中，如今能拿出的是一份过往记录，而不是一桩丑闻。这是实实在在的变化，而它只用了几天的工夫。