你還分得出 AI 圖像和真實照片嗎？老實說，不能。

這個月有個遊戲正在流傳，它把一個嚴肅的問題變成計分板。它會向你展示一連串圖片，並要求你標記哪些是 AI 生成的。人們玩的時候深信自己眼光很準，然後看著自己的準確率在某個點崩潰——大約就是 AI 開始能正確描繪寫實人類手部的那個時候。那早就不再是可靠的破綻了，已經好幾年了。這個遊戲在 Hacker News 上獲得了超過一百點，留言讀起來像是一群發現自己原來也看不出來的人所組成的互助會。

破綻已經消失

人們過去依賴的每一個捷徑都已經行不通了。多出來的手指、扭曲的文字、塑膠般的皮膚、不合常理的光線。目前的模型處理這些問題都處理得夠好，你無法再依賴任何單一破綻。尤其是文字，已經大幅改善，這移除了人類偵測最後幾個容易取勝的線索之一。以前，模型能在場景中畫出清晰可讀的招牌，就是一個明顯的破綻。現在這只是基本要求。

結果是一個奇怪的處境。圖像變得更好了，但人類辨識它們的能力卻沒有提升。大多數人，面對一張好的 AI 圖像和一張真實照片並排，都只是在猜。這個遊戲的受歡迎程度部分證明了這一點：它之所以好玩，正是因為你一直猜錯，而猜錯正是重點。信心滿滿，準確率卻跟丟銅板差不多。

偵測工具也救不了我們

AI 偵測工具有一個平行的市場，而它同樣不牢靠。新工具推出時宣稱能辨識 AI 圖像，它們在實驗室裡有效，在真實世界卻失靈。針對某個模型的產物調校過的偵測器，遇到下一個模型就吃力了。把圖片壓縮、調整大小，或經過社群平台重新編碼，偵測器所依賴的細微指紋就會被抹除。

更糟的是，偵測器會產生偽陽性。一張真實照片，只要光線特殊或濾鏡用重了，就可能觸發警報。對於一個旨在恢復人們對圖像信任的工具來說，偽陽性是個嚴重問題，因為它讓任何人都能把真實照片斥為假貨。換句話說，偵測工具可以被雙向武器化。這不是靠更多訓練就能修復的缺陷。這是結構性的問題。

軍備競賽只有一個贏家

這裡有一個根本的不對稱，人們一直低估它。生成器試圖產出看起來真實的圖像，而且有明確的目標。偵測器試圖辨識它們，卻在追趕一個不斷變好、持續移動的目標。在軍備競賽中，擁有明確目標和快速迭代循環的一方通常會贏，而那一方就是生成器。

每一個新模型都迫使偵測器重新訓練，而等它們追上來時，下一個模型又已經發布了。差距沒有縮小。它在擴大，而且每一次發布都在擴大。販售偵測工具的人有動機聽起來樂觀，但實際的趨勢線並不在他們那一邊。真要說的話，誠實的立場是：可靠的偵測是一場必敗的遊戲，而我們越早接受這一點，就能越早開始處理真正有幫助的事。

這在實務上意味著什麼

對於「你分得出來嗎」這個問題，誠實的答案是：無法可靠地分辨，而且越來越無法。更有用的問題是，我們要如何與此共存。驗證必須向上游移動，移到來源出處。如果一張圖像在創作時就被簽署，或者帶有它來自哪裡、如何被編輯的紀錄，那麼你就不需要瞇著眼睛看像素。你檢查中介資料就好。

對一般使用者來說，這樣的基礎設施幾乎不存在。有些相機製造商和平台正在實驗內容憑證，但它並非標準，而且圖像一被截圖，鏈條就斷了。在那改變之前，預設心態就是懷疑，而懷疑令人疲憊。它也具有腐蝕性，而我們才剛開始感受到這一部分。

社會成本才是真正的重點

真正的損害並不是被假圖像騙了。而是共享信任的崩解。當任何照片都可能是偽造的，而偵測工具又不可靠時，人們開始懷疑一切，包括真實的證據。這比任何單一圖像都更沉重，也是科技尚未解決的問題。

這是技術討論一直忽略的部分。擔心 AI 圖像的人，主要不是擔心被有趣的濾鏡騙了。他們擔心的是這樣一個世界：真實事件的真實照片可以被斥為假，而假的卻可以被辯護為真。當證據本身受到質疑，依賴證據的論點就失效了。這不是偵測器的問題。這是信任問題，而且它比兩邊的任何工具都更重大。

責任正在轉移，卻沒有人想接

其中一個隱而不顯的支線是，責任不斷被推來推去，卻沒有落到任何地方。模型開發者說他們只是提供工具。平台說他們無法驗證每一張圖像。使用者說他們不該得像鑑識分析師一樣。每個人嚴格說起來都沒錯，結果就是當假圖像造成傷害時，沒有人需要負責。

這種責任分散才是真正的問題。當一張被操弄的圖像散播開來並造成傷害，傷害是真實的，但卻沒有單一的行為者，其職責是攔截它。模型開發者出貨了一個功能強大的工具，平台託管了它，使用者相信了它。鏈條中的每一環都可以指向下一環，聲稱自己沒做錯任何事。

在責任落到某個具體的地方之前，預設的答案會是怪罪工具或怪罪觀看者，而這兩者都行不通。怪罪工具就像因為一張擺拍照片而怪罪相機。怪罪觀看者則忽略了已經沒有人能可靠地分辨。誠實的解決方案是結構性的：關於揭露和來源的明確規則，約束發布和散布圖像的人，而不是觀看它們的人。

接下來真正會發生什麼

圖像生成器贏得了軍備競賽。它們變得如此擅長，以至於「這是真的嗎」這個問題不再有快速的答案。下一個要解決的問題不是做出更好的偵測器。而是建立一個系統，讓圖像的真實性不取決於你的眼睛是否剛好能看出來。來源出處、已簽署的內容、可驗證的保管鏈。這些很無聊，但它们是唯一真正行得通的方法。眼睛已經輸了，假裝不是這樣只會給每個人虛假的安全感。