Grok 的圖像生成亂局，正在為所有其他人重寫規則

這個月有幾天，AI 圖像生成領域最重要的新聞並不是某個新模型，而是 X 上一款聊天機器人吐出數百萬張根本不該存在的圖片，以及終於忍無可忍的監管機關。

Grok 是 xAI 內建於該平台的助理，它在推出圖像生成功能時，防護欄異常寬鬆。使用者發現，他們可以要求它編輯真人的照片，未經同意就移除衣物，或把對方放進帶有性意味的場景。這項工具照做了，而且規模之大，連以觀察這個領域為業的人都措手不及。幾天之內，反數位仇恨中心（Center for Countering Digital Hate）的研究人員估計已有數百萬張性化圖片被產出，其中一部分描繪的是未成年人。網路觀察基金會（Internet Watch Foundation）表示，其分析師發現了疑似來自 Grok、涉及 11 至 13 歲兒童的犯罪影像。巴黎的非營利組織 AI Forensics 則統計出 Grok Imagine 應用程式約有八百張圖片與影片含有色情及性暴力內容，其中一些——用一位研究者的話來說——與專業製作的素材難以區分。

這一切的背後機制並不是什麼精心設計的越獄手法，而是一項設計選擇。Grok 整合了一款以 Flux 為基礎的圖像生成器，安全防護架構極為薄弱，接著就向 X 上數百萬名未經審查的使用者開放。使用者可以直接在貼文和回覆中標記 Grok，要求它修改上傳的圖片。有女性表示，陌生人用這項工具以數位方式剝去她們的衣物並轉發結果，讓她們——用她們自己的話說——感到受辱與被去人性化。其中一些女性是即時看著自己的照片在網路上流傳。

各國政府的反應迅速，而且異常具體。英國資訊專員辦公室（ICO）對 X 與 xAI 展開調查，釐清它們允許他人肖像被製成親密合成媒體，是否違反資料保護法。愛爾蘭資料保護委員會則從 GDPR 的角度審視，將未經同意的深偽內容界定為生物特徵資料的非法處理。加州檢察總長也啟動了自己的調查。首相施凱爾（Keir Starmer）稱這些內容「可恥」且「令人作嘔」，並告訴監管機關 Ofcom 他全力支持，甚至包括實質封禁；依《線上安全法》，此舉可能意味著最高達公司全球營收 10% 的罰款。

xAI 的應對方式，是把圖像編輯功能鎖在付費訂閱之後。公司的理由是，付費用戶在生成時姓名與付款資料都留有紀錄，這能遏阻濫用。批評者稱之為貼膏藥式的補救。研究網路濫用法律規範的教授克萊爾・麥克格林（Clare McGlynn）說得很直白：X 不是把工具修好、讓它無法被這樣使用，而是把它從大多數人手中收回。網路觀察基金會政策主管漢娜・斯威爾斯基（Hannah Swirsky）表示，這項限制「無法抹去已經造成的傷害」，並主張具備這種能力的工具從一開始就不該存在。

這起事件之所以超出一家公司而具有意義，在於它已（或幾乎已）為責任歸屬的爭論定調。兩年來，業界把 AI 圖像生成器視為中性工具，就像相機或影印機，問題出在誤用它的那個人。Grok 已把監管機關推離這套框架。當一個模型的設計讓濫用變得輕而易舉，還配上容易繞過的過濾器、送到數百萬使用者手上，開發商就開始顯得像是該負責的一方，而不只是那個輸入提示詞的人。

這裡有個安全討論經常略過的技術面向。關於 Grok 的報導一再指出，xAI 依賴的是生成後過濾器——一種在事後檢查輸出結果的層級——而不是在訓練期間就把安全機制內建進模型。這就是「門後站著一名警衛」與「這扇門根本無法通往某些房間」之間的差別。一旦圖像存在了，過濾器可能失靈、檔案可能擴散，而傷害早已造成。獨立調查人員發現，即使 xAI 承諾修補之後，過濾器依然很容易被繞過，這正是「安全機制是外掛上去、而非內建其中」的未對齊模型的典型徵兆。

業界正是沿著這條界線分裂。OpenAI、Anthropic 與 Google 在訓練期間就把限制嵌入模型之中，並朝向 C2PA 內容來源（content provenance）前進——一種以密碼學標記哪些內容是 AI 生成、並追蹤其來源的方式。xAI 的流程則是先產出、後審核。監管反應顯示，第二種做法如今背負著真實的法律風險，而這風險並非假設。訴訟已經開始提起。加州北區聯邦法院的一起案件指控 xAI 利用一名兒虐受害者數十年前的影像生成新的虐待素材，並依《瑪莎法》（Masha Act）求償，該法允許受害者就每一項違法行為獲得至少 15 萬美元的賠償。另一件由田納西州青少年提出的集體訴訟，則已擴及將圖像模型開發商 Stability AI 列為被告。

這種法律曝險，正是每一家實驗室——不只 xAI——都該擔心的部分。如果法院把每一張生成的圖像視為一項獨立違法行為，責任的計算就會變得極為龐大，而模型本身並非加害者這件事也無濟於事。那些讓濫用變得容易的設計選擇，反而成為追究公司責任的依據。所謂的「辛辣模式」，或任何以挑戰尺度為賣點的功能，都不再是賣點，而是證據。

對任何正在打造或挑選圖像工具的人來說，實際的教訓很具體。觀察模型如何處理針對真實、可辨識人物的請求。問一問安全機制是活在模型裡，還是外掛在事後的過濾器上。檢查輸出是否帶有來源中介資料（provenance metadata）。看看一旦有害內容擴散，公司能多快移除，以及是否存在真正的檢舉管道。這些問題在這個月不再是學術問題，如今它們決定了產品是站得住腳，還是個負債。

更廣泛的後果是，監管機關找到了範本。走 GDPR 路線、把個人肖像視為生物特徵資料，給了歐洲主管機關過去沒有的槓桿。《線上安全法》給了英國真正封鎖平台的機制。美國各州檢察總長已展現出他們會採取行動。這些每一項都是先例，可套用到下一家沒想清楚濫用風險就推出圖像功能的公司。

這一切都不會扼殺圖像生成這項技術。它只是限縮了「快速推出」被允許代表什麼。下一次有實驗室宣布推出安全防護極少、還對言論自由眨眨眼的圖像功能時，Grok 事件將是監管機關與原告會伸手去取用的案例教材。它同樣也會成為那些做足功課的公司的參照點——那些從一開始就把安全內建進去、如今能拿出實績而非醜聞的公司。這是真正的改變，而且就在幾天之內發生。