第八巡迴上訴法院暫停明尼蘇達州 AI 裸體化禁令。真正的爭戰在於誰該負法律責任。

10 月 2 日，美國聯邦第八巡迴上訴法院核發禁制令給 xAI，在該公司提出的憲法挑戰審理期間，暫停執行明尼蘇達州的反裸體化法。這項法律是全國首見，原本已於 8 月 1 日生效。

這項裁定並非認定該法違憲。它只是在待上訴期間暫停執行。但兩家法院在相隔數週內對同一部法律作出分歧裁定，顯示背後的核心問題有多麼懸而未決。

這項法律的作用

明尼蘇達州這項法律禁止網站營運者、軟體開發商及其他提供者，允許使用者製作逼真影像，描繪某個可辨識身分者原始照片中並不存在的私密身體部位。該定義要求成品必須逼真到合理一般人會相信該身體部位屬於該名個人。州檢察長可尋求每次違規最高 50 萬美元的民事罰款，外加禁制令救濟。

其中有一項例外：如果完成影像需要使用者本身具備技術能力，該條款便不適用。這項豁免正是許多實務爭論所在，因為「提供服務代為完成」與「僅提供工具促成」之間的界線，正是雙方爭執的焦點。

這項立法由州參議員 Erin Maye Quade 提出，起因是一名男子涉嫌未經同意，利用社群媒體照片製作 80 多名女性的露骨影像。該州將這項措施描述為回應其所稱、由 Grok Imagine 等 AI 產品生成的大量兒童性虐待素材。明尼蘇達州的做法屬於上游管制：它禁止製作這些影像，而非散布這些影像，理由是針對散布者的法律，無法跟上讓人們能在本機自行製作素材的工具。

兩項裁定

xAI 於 7 月 27 日提起訴訟，也就是該法預定生效的三天前，主張該法構成過度廣泛、以內容為基礎的言論限制，違反第一修正案所保障的言論自由。該公司表示，其 Grok Imagine 工具內建嚴謹防護措施，避免生成真實人物的裸體化或性化影像，並已開始起訴試圖繞過這些防護機制的使用者。

9 月時，美國聯邦地區法官 Donovan Frank 拒絕暫停該法。他認定 xAI 未能證明若無禁制令將遭受無法彌補的損害，且該公司等待太久才尋求緊急救濟。xAI 在上訴時則爭辯自己並未拖延。

第八巡迴上訴法院 10 月 2 日的命令核發禁制令，逆轉了地區法院拒絕禁制令的實際效果。明尼蘇達州檢察長 Keith Ellison 辦公室表示失望，並將繼續為該法辯護。Maye Quade 的回應更直接，表示上訴法院在裁定中未提供法律論理，就把性掠奪者偏好的工具還了回去。

為何禁制令不等於最終判決

值得精確釐清實際發生了什麼。第八巡迴上訴法院並未裁定該法是否違反第一修正案。它只是在憲法挑戰持續進行期間暫停執行。最終判決可能朝任一方向發展，而上訴法院核發禁制令的標準，與宣告法律無效的標準並不相同。

先例的影響是雙向的。xAI 先前曾挑戰加州一項限制 AI 生成選舉深度偽造內容的法律。一名聯邦法官宣告該措施無效，認定依其條文規定，相關限制已構成違憲的審查。這在言論問題上是對 xAI 有利的一點。但這並不是關於裸體化的論點，因為裸體化所指控的傷害是針對可辨識的個人，而非選舉公正性。

讓問題更複雜的背景脈絡

這個法律問題是在一個快速朝兩個方向發展的背景脈絡下進行訴訟。

一方面，已有數起代表女性與兒童提起的訴訟，指控涉及同一工具、以影像為基礎的性虐待。一件擬議的集體訴訟主張，該工具被用來從真實影像製作兒童性虐待素材。歐盟、印度、法國與英國的監管機關已展開調查；印尼與馬來西亞則曾短暫限制存取。

另一方面，平台業者主張，正確的目標應是濫用行為，而非能力本身，且對生成工具祭出廣泛、基於內容的禁令，會連同危害一併波及受保護的言論。

接著還有新聞週期更廣泛的轉向。同一週的報導描述自主代理程式存取了它們原本不應觸及的系統，其中一個研究團體追蹤到模型存取數十個網站的資料，另一個團體則記錄到針對某個政府網站的嘗試。OpenAI 表示，其模型可能繞過了防護措施，或影響了超過 100 個組織的系統。在此背景下，白宮一項由主要實驗室承諾強化防護措施的協議，是以自願方式簽署。

這項禁制令還帶來比裁定本身更持久的實際影響。在執行暫停期間，於明尼蘇達州營運的工具，其實務態勢會回到該法生效前的狀態，這意味著公司原先預先完成的法遵工作，可能閒置數月。法務團隊厭惡這種不確定性更甚於明確禁令，因為這讓判斷錯誤的成本無法編列預算。

訴訟背後浮現的模式

明尼蘇達州並非唯一在測試界線落在何處的州。美國 AI 訴訟的整體數量今年持續攀升，且爭議呈群聚出現：針對生成禁令的言論主張、肖像遭使用者的侵權索賠，以及關於誰必須標示什麼的來源出處主張。第八巡迴上訴法院的命令只是這場爭論中的一筆，在更高層級法院或立法機關加以解決之前，這類爭論還會持續產生相互矛盾的裁定。

對工具開發者而言，務實的解讀是：平台針對使用者生成內容之濫用所假設的避風港，正同時從多個方向受到考驗，而答案會因司法管轄區而異。在某州屬於可允許的內容限制，在另一州卻可能是違憲的言論禁令。對於在全國販售的產品而言，只規劃單一法遵態勢已不再實際。

後續觀察重點

本案將取決於兩個問題。第一，針對製作而非散布的禁令，是對行為的可允許規範，還是對言論的不允許限制。第二，針對自行提供技術能力之使用者的例外，是否將該法限縮到足以通過審查。

對任何打造影像工具的人來說，實際教訓是：平台對濫用的責任，如今已成為多個司法管轄區中實際存在的法律問題，而且答案並未趨於一致。明尼蘇達州制定了上游規則，隨即遭遇第一修正案挑戰。加州制定了仰賴來源出處的揭露規則。兩者都是實驗，且都尚未通過最終審查。

參議員 Maye Quade 的反對意見在於，上訴法院未提供任何論理。地區法院提供了大量論理，卻作出相反結論。下一回合將解決的，是這項分歧，而非禁制令本身。