深偽反彈浪潮正在全球化,這已不再只是單一公司的問題

有一段時間,深偽問題看起來像是一連串各自獨立的事件。這裡一位政治人物、那裡一位演員,一款帶著鬆散防護機制上線、事後再修補的工具。過去一個月改變的是,世界各地的監管機構與法院不再把這些視為偶發的個案,而是開始圍繞肖像、同意與責任,建立起一套共用的法律機制。
歐盟率先起跑。自 8 月 2 日起,《歐盟 AI 法案》要求任何看起來逼真的 AI 生成圖像、音訊或文字都必須明顯標示,並加上浮水印以揭露其合成來源。企業最高可被處以 1,500 萬歐元或全球營業額 3% 的罰款。既有系統有四個月時間遵循。這是第一個把標示從自願承諾變成硬性要求的主要司法管轄區,而且同樣適用於未經人工編輯審核的公共利益文本。
歐盟執法體系的規模值得特別強調。Google 的 SynthID 已在超過 1,000 億張圖像,以及相當於 6 萬年的音訊上嵌入隱形浮水印。已有逾 180 個組織簽署執委會的自願行為準則。標示規則正是這股自願推動力量的法律後盾,也讓監管機構握有過去所沒有的具體槓桿。
印度則朝另一個軸線推進。最高法院已中止古吉拉特高等法院的訴訟程序,並正在權衡是否將深偽相關訴訟集中由全國層級審理,通知的回覆期限為 10 月 5 日。推動集中審理的理由看似官僚,實則非常務實:如果每個高等法院對「深偽」的定義都不同,平台最後會落得符合古吉拉特規則、卻違反孟買規則的處境。與此同時,孟買高等法院本週制止了未經授權使用演員 Samantha Ruth Prabhu 姓名、肖像與聲音的行為,下令移除 AI 生成與變造的內容,並認定此舉表面上已侵害她的人格權與公開權。這起訴訟共點名 18 個平台、AI 開發商與媒體公司為被告。法院將判決奠基於憲法權利,把她的人格權與公開權同時置於言論自由權,以及生命、隱私與尊嚴權的保護之下。
美國則循自己的管道推進。將針對個人影像、肖像與聲音的數位複製品建立聯邦層級公開權的《No Fakes Act》,已重新提出,並於 6 月獲參議院司法委員會正面表決通過。SAG-AFTRA 強力推動此法,好萊塢正是其試金石。即將上映的電影《As Deep as the Grave》預告片中,出現了 AI 生成的 Val Kilmer——他於 2025 年過世——對著一位真人演員說出一句台詞。Kilmer 生前已獲選角,也支持 AI 語音技術的運用,但更廣泛的問題是:片廠能否在沒有法律摩擦的情況下「復活」已故演員的肖像?這正是《No Fakes Act》旨在回答的問題。
貫穿這一切的主軸是:法律正逐漸匯聚到一個產業花了兩年抗拒的原則——一個人的臉與聲音不是免費的原料。歐盟把肖像視為必須標示的對象;印度法院將其視為人格權;美國正在辯論聯邦層級的公開權。這些都尚未定案,但方向一致,而且對「先快速上線、之後再補救」的做法並不友善。
這裡存在一股真實的張力,公民自由團體已提出警示。ACLU、EFF 與民主與科技中心(Center for Democracy and Technology)在 6 月的一封公開信中警告,過於寬泛的公開權可能製造出「嗆聲者否決權」(heckler's veto),讓不喜歡被嘲諷的有權者得以要求下架諷刺與評論內容。這種憂慮有其道理。保護受害者與武裝審查者之間的界線確實極為細微,而現在正在起草的法律將決定它倒向哪一邊。權利範圍太窄,受害者得不到救濟;範圍太寬,則等於把對抗批評的武器交到有權者手中。
法律討論還不斷繞回一個技術面向。在訓練階段就把安全內建於模型,與在生成後才加裝過濾器,這兩者之間的差異已具法律意義。一旦圖像被生成,過濾器可能失效、檔案可能擴散,而傷害早已造成。監管機構注意到了這項差異,這也開始反映在責任歸屬上。先生成、後審核的公司,如今比把限制嵌入模型本身的公司承擔更高風險。
對任何關注這個領域的人來說,該追蹤的訊號不是下一個模型發布,而是下一份法院判決、下一份監管指引、下一道下架命令。這些才是形塑工具被允許做什麼的輸入變數,而它們出現的速度,是這個產業還不習慣的。技術已不再領先法律;法律正在追上,而這個落差縮小的速度,比安全團隊能反應的還快。
這一波與過去較為安靜的執法不同之處在於:案件在同一時間、橫跨彼此不相關的司法管轄區、基於同一原則層層堆疊。這已不再是單一監管機構回應單一醜聞,而是彼此並不互相協調的法律體系所出現的協同匯流,這比任何單一法院判決都更具訊號意義。當歐盟、印度與美國都在同樣幾週內得出「個人肖像應受保護」的結論,產業就必須把它視為新的基準線,而非一連串例外。
技術論述中同樣有一條主軸。這些案件反覆出現的一個細節是:傷害原本能否透過設計來避免,而非靠事後審核補救。惹上麻煩的模型,都是先生成、後過濾的模型;被視為負責任的模型,則是在訓練期間就嵌入限制,並預設附帶來源中介資料(provenance metadata)。安全究竟是「內建」還是「外掛」,這項差異正成為法律上的分界線,也為每個實驗室提供了一份具體清單,說明現在所謂「做對」是什麼意思。
對創作者與工具開發者而言,實際的轉變已經發生。過去被視為可有可無的問題——這個模型如何處理針對真實人物的請求?是否嵌入來源中介資料?有沒有真正可用的檢舉管道?——如今已是「站得住腳的產品」與「法律責任」之間的差別。深偽不再是交由信任與安全團隊處理的利基問題,而是一個在多個司法管轄區、此刻就已附帶罰則的合規問題。
最可能的結果,並不是生成式媒體被消滅,而是未經同意使用他人臉孔的成本被計入定價,而能存活下來的工具,是那些從一開始就把同意與來源追溯內建其中、而非在醜聞爆發後才加裝的產品。這是真正的改變,而且發生得比產業裡多數人預期的還快。推出圖像或影片工具卻不去思考濫用問題的窗口正在關閉,而且是以全球一致的時間表在關閉。