← 返回部落格
Ai預計閱讀 13 分鐘

C2PA 與 SynthID:歐盟《AI 法案》之後,媒體來源追溯已是一項工程任務

發布於 2026年10月7日
C2PA 與 SynthID:歐盟《AI 法案》之後,媒體來源追溯已是一項工程任務

AI 生成的文字、圖像、音訊與影片,正越來越難以與人類創作區分。這使得來源追溯從研究議題變成產線上的必要條件,而期限也已開始產生約束力。

歐盟《AI 法案》第 50 條的透明度義務自 2026 年 8 月 2 日起適用,標記的寬限期則到 2026 年 12 月 2 日。印度在 2026 年 2 月修訂其《資訊技術規則》,將合成生成的資訊納入規範。標記生成的媒體,如今是團隊必須實作的項目,而不是團隊討論的題目。

回答不同問題的三種工具

多數團隊犯的錯誤,是把來源追溯、浮水印與偵測視為可互換的東西。它們並非如此,而且各自會以不同方式失效。

就 C2PA 的意義而言,來源追溯是附加於檔案、或由檔案所參照的加密簽章中介資料。它回答一個特定問題:這是誰簽的、用什麼工具簽的,以及自簽署以來是否被改動過。其主要弱點是很容易被移除。一張螢幕截圖、一次重新編碼,或一個會丟棄中介資料的平台,都會讓 manifest 消失。

不可見浮水印是嵌入內容本身的訊號,無論是在像素、音訊取樣或 token 選擇之中。它回答的是:這是否由套用此浮水印的系統所產生。其弱點是大量編輯、改寫或對抗性攻擊可能削弱或移除訊號,而且通常只有供應商自家的偵測器能偵測到。

偵測分類器則是一個受過訓練、用來猜測內容是否為合成的模型。它回答的是:這看起來像 AI 生成的嗎。它是機率性的,會隨著生成器進步而漂移,並且會對真實內容產生偽陽性。

關鍵區別在於:來源追溯與浮水印是由配合的一方在創作當下套用。偵測則是在事後套用於任何人的內容,包括對手的內容,這使它成為最弱的證據形式,但對於從未被標記的內容而言,也是唯一的選項。

為什麼單靠偵測並不足夠

偵測是一場軍備競賽。分類器學習已知生成器的痕跡,而新模型加上簡單的後處理就會改變這些痕跡。偽陽性會傷害真實的人,因為經過編輯的真實照片、被壓縮的影片,以及非母語者的寫作都會被標記。當這變成公平性問題時,一張真實顧客的自拍照會被拒絕。

而且乾淨的分數什麼也證明不了。內容可能來自模型從未見過的生成器。實務上的指引是把偵測視為一種風險訊號,在後果重大的決策上搭配人工審查。

C2PA 實際上是怎麼運作的

內容來源與真實性聯盟(Coalition for Content Provenance and Authenticity)發布了一套開放技術標準,用於記錄數位內容的來源與編輯歷程。其指導委員會成員包括 Adobe、Google、Microsoft、Meta、OpenAI、Amazon、Sony 與 BBC 等。該規範目前位於 2.x 系列,並定期修訂,因此設計時應查閱當前版本,而非固定採用某一個發行版。

核心單位是 C2PA manifest,這是一種經過加密簽章的資料結構,用來描述某個資產的來源。一個 manifest store 可以容納多個 manifest,資產生命週期中的每一個步驟各一個。assertions 是關於該資產的個別陳述,標準的 assertion 涵蓋 created 或 edited 等動作(包括由 AI 系統所為),以及 ingredients 與縮圖。

到了 2026 年中,OpenAI 會為其圖像模型產生的每一張圖片附加 C2PA manifest,Google 則為其圖像與影片生成輸出同時附加 C2PA manifest 與 SynthID 浮水印。Adobe 的 Firefly 自 2024 年起便已這麼做。Canon、Sony、Nikon 與 Leica 的相機韌體如今在拍攝當下就寫入 Content Credentials,這意味著讓新聞編輯室得以驗證照片的同一套機制,也能讓招聘經理驗證大頭貼。

深色表面上一個半透明、以蠟封緘的空白玻璃小瓶,封蠟映著一抹暖色高光

SynthID 有何不同

Google DeepMind 的 SynthID 是一系列浮水印技術,會針對每種內容類型調整訊號,而非用單一技術處理所有情況。圖像是將訊號散布在整張影像中,以維持正常的視覺品質,並讓某些常見的轉換不至於抹除它。影片則將浮水印資訊分散於各個畫格中,協助驗證者檢視整段影片,而非單一孤立區域。音訊把訊號置於聲音之中,人耳聽不見但機器可偵測。文字則由模型微幅調整 token 機率,驗證者需檢視足夠長的文本,才能看出預期的統計模式。

文字浮水印是最脆弱的情況。簡短的回答可能不包含足夠的證據。大量改寫、翻譯,或混合多個模型的輸出,都可能削弱該模式。這就是為什麼負面結果應回報為「未偵測到受支援的浮水印」,而非「由人類撰寫」。

這對出貨生成媒體的團隊意味著什麼

從這些工具差異可推出三項做法。

在創作當下簽署,並保留原始檔。C2PA 有時能挺過重新編碼,但中介資料在下游經常被丟棄。唯一可靠的來源紀錄,就是你留下的那個檔案。

不要把浮水印從缺當成人類撰寫的證據。訊號從缺可能代表生成器並未套用浮水印、編輯過程移除了它,或偵測器無法使用。這每一種都是不同的事實。

把技術問題與真偽問題分開。C2PA 的密碼學有助於揭露未經授權的變更,但它本身並不認證某項產品描繪是否準確,也不認證 manifest 中的每一項陳述是否為真。來源追溯告訴你檔案從何而來。它不會告訴你這個檔案是否誠實。

市場已對這一切做出回應。AI 浮水印與來源追溯相關支出在 2025 年估值約 4.8 億美元,並預估到 2034 年將以超過 28% 的年增率成長。這是企業支出,而非消費者採用,且它反映了一個簡單的現實:隨著生成媒體的成本下降,證明媒體從何而來的價值隨之上升。那些把來源追溯當成產線基礎設施、而非實驗室好奇之物的團隊,將在標記法規正式生效時做好準備。

合規的產線是什麼樣子

撇開抽象概念不談,如今必須標記生成媒體的團隊,需要一套具體的步驟順序,而每一步都對應到上述其中一種工具。

在創作階段,產線會簽署輸出。對於透過主要 API 產生的圖像,這會自動發生:OpenAI 為每一張圖片附加 C2PA manifest,Google 同時附加 manifest 與 SynthID 浮水印,Adobe 則透過 Firefly 做同樣的事。若是透過較小供應商作業的團隊,可能得自行加入 manifest。

在編輯過程中,產線會保留這條鏈。每一個碰觸到資產的工具,都應該附加一筆 assertion,而不是替換 manifest,這樣歷史才能留存。這正是多數產線漏失的地方,因為一個重新編碼檔案的工具,可能會丟掉它不認識的中介資料。

在散布階段,產線會保留原始檔。平台經常移除中介資料、重新壓縮上傳內容並產生預覽。離開生產系統的那個已簽署檔案,是唯一可靠的紀錄,而且應該獨立於圖片被張貼的任何地方加以保存。

在人的層面,產線會加上標示。可見標示是最簡單的揭露形式,也是主管機關對某些用途所期望的做法。它同時也是最容易被裁切掉的一種,這就是為什麼它會與機器可讀的訊號並存,而不是取代它們。

監理機關劃出的界線

歐盟《AI 法案》第 50 條,以及印度修訂後的《資訊技術規則》,都劃出了一條在工程討論中很容易模糊的界線。

這項義務關乎透明度,而非準確性。一張被標記的圖片,是被認證為由某個已識別的流程所生成或編輯,標記所斷言的僅止於此。這個區別很重要,因為它決定了 manifest 的用途。它記錄的是來源,也就是檔案由誰、以何種方式製作。它並不為內容背書,也就是不保證檔案所描繪的內容是否真實。

把這個區別搞錯,會導致可預見的失敗。團隊把有效的 Content Credential 當成圖片值得信任的證據,但該憑證只確認圖片來自它自稱來自的系統。一張遭到竄改卻仍帶著完整 manifest 的照片,終究還是遭到竄改的照片,而 manifest 並不會偵測出這項竄改。

給實際工作團隊的結論

由此可歸納出三件事,而它們全都關乎紀律,而非技術。

把標記視為匯出步驟的一部分,而不是事後追加。來源追溯是在創作當下套用的,對於已經在流通的資產,不可能回頭補上。

保留原始檔,因為別人看到的副本通常已被剝除。唯有團隊能拿出帶有 manifest 的那個檔案,manifest 才有用處。

而在團隊談論輸出成果的方式上,要把來源追溯問題與偵測問題分開。來源追溯告訴你檔案從何而來。偵測告訴你模型對它從未見過的內容所作的猜測,這是較弱的主張。無論對內或對客戶,都明白地說出這一點,才能讓合規計畫對自己能夠證明與不能證明的事保持誠實。

相關文章