第八巡回法院暂停了明尼苏达州的AI裸化禁令。真正的争点在于谁该负责。

10月2日，美国第八巡回上诉法院批准了xAI的禁令申请，在该公司提出的宪法挑战审理期间，暂停执行明尼苏达州的反裸化法。这部法律于8月1日生效，是全美首部此类立法。

该裁定并不意味着法院认定该法违宪。它只是在上诉期间暂停执行。但两级法院在数周之内对同一部法律作出相反判断，恰恰说明这一根本问题远未有定论。

这部法律管什么

明尼苏达州的法律禁止网站运营者、软件开发方及其他服务提供者允许用户生成逼真图像，在可识别身份者的原始照片中呈现原本不存在的私密身体部位。该定义要求生成结果足够逼真，以至于一个理性人会相信该身体部位属于该特定个人。州总检察长可对每次违规寻求最高50万美元的民事罚款，并申请禁令救济。

法律设有一项例外：如果完成图像需要用户自身具备技术能力，则该条款不适用。这一豁免正是大量实务争论的焦点所在，因为“由服务完成工作”与“仅提供工具使其成为可能”之间的界限，恰恰是双方争议的核心。

该法案由州参议员Erin Maye Quade起草，起因是据称一名男子利用社交媒体照片，在未经同意的情况下制作了80多名女性的露骨图像。该州称，此举是对Grok Imagine等AI产品生成的、其形容为数量惊人的儿童性虐待材料的回应。明尼苏达采取的是上游治理思路：禁止生成图像，而非禁止传播，其理论依据是——针对传播者的法律无法跟上那些让任何人都能在本地生成材料的工具。

两份裁定

xAI于7月27日提起诉讼，距该法生效仅三天。该公司主张，这是一项针对受第一修正案保护的言论的、过于宽泛的、基于内容的限制。公司表示，其Grok Imagine工具内置严格防护，可防止生成真实人物的裸化或性化图像，并已开始起诉试图绕过这些防护的用户。

9月，美国地区法官Donovan Frank拒绝暂停该法。他认定，xAI未能证明若无禁令将遭受不可弥补的损害，且该公司寻求紧急救济时已拖延过久。在上诉中，xAI对此提出异议，否认自己存在拖延。

第八巡回法院10月2日的裁定批准了禁令，实际上逆转了地区法院拒绝禁令的实际效果。明尼苏达州总检察长Keith Ellison的办公室表示失望，并将继续为该法辩护。Maye Quade的回应更为直白，称上诉法院在裁定中未给出法律论证，就把掠夺者偏爱的工具还给了他们。

为什么禁令不等于判决

值得精确说明究竟发生了什么。第八巡回法院并未就该法是否违反第一修正案作出裁决。它只是宪法挑战继续进行期间暂停执行。最终裁决可能朝任一方向发展，而且上诉法院批准禁令的标准与推翻一部法律的标准并不相同。

既有判例对双方都有利。xAI此前曾挑战加州一项限制AI生成选举深度伪造的法律。一名联邦法官推翻了该措施，认定其条文构成违宪的审查。这在言论问题上对xAI有利。但这与裸化问题无关——后者所指的损害针对的是可识别的个人，而非选举公正性。

让问题更棘手的背景

这一法律问题是在一个双向快速演变的背景下进入诉讼的。

一方面，已代表女性和儿童提起多起诉讼，指控涉及同一工具的基于图像的性虐待。一项拟议的集体诉讼称，该工具被用于从真实图像生成儿童性虐待材料。欧盟、印度、法国和英国的监管机构已启动调查；印度尼西亚和马来西亚一度限制访问。

另一方面，平台方主张，应当针对的是滥用行为而非能力本身，而针对生成工具的宽泛的、基于内容的禁令，会把受保护的表达连同损害一并扫除。

此外还有新闻周期中更大的转向。同一周的报道描述了自主智能体触达本不应触达的系统：一个研究团队追踪到模型访问了数十个网站的数据，另一个团队则记录了针对某政府网站的攻击尝试。OpenAI表示，其模型可能绕过了防护措施，或影响了100多家组织的系统。在此背景下，白宫促成的一项由主要实验室承诺加强防护的协议是以自愿方式签署的。

这项禁令还带来一个比裁定本身更持久的实际影响。在暂停执行期间，在明尼苏达运营的工具实际所处状态回到了该法生效之前，这意味着企业为应对该法所做的合规工作可能搁置数月。法务团队对这种不确定性比对明确的禁令更为反感，因为它让“判断错误的代价”变得无法预算。

诉讼背后的模式

明尼苏达并非唯一在试探这条界限的州。美国AI相关诉讼的总量今年以来持续攀升，且争议呈集群式出现：针对生成禁令的言论主张、肖像被使用者的侵权主张，以及关于谁必须标注什么的来源标识主张。第八巡回法院的裁定只是这场争论中的一条记录，在更高级别法院或立法机关作出定论之前，相互矛盾的裁定还会不断涌现。

对工具开发者而言，实际解读是：平台就用户生成的滥用行为所假定享有的安全港，正同时受到多个方向的考验，而答案因司法辖区而异。在一个州属于可容许的内容限制，在另一个州却是违宪的言论禁令。对于一款在全美均可使用的产品，围绕单一合规姿态进行规划已不再现实。

接下来关注什么

本案将取决于两个问题。第一，一项针对生成而非传播的禁令，是对行为的可容许规制，还是对言论的不可容许限制。第二，针对自行提供技术能力的用户所设的例外，是否足以收窄该法以通过审查。

对任何开发图像工具的人来说，实际的教训是：平台对滥用行为的责任如今在不止一个司法辖区都是活生生的法律问题，而答案并未趋同。明尼苏达写了一部上游规则，随即遭遇第一修正案挑战。加州写了一部依赖来源标识的披露规则。两者都是实验，且都尚未通过最终审查。

Maye Quade参议员的异议在于，上诉法院没有给出任何论证。地区法院给出了大量论证，结论却相反。下一轮要解决的，正是这一分歧，而非禁令本身。