猴子沒有救那隻狗，但眼淚是真的

10 月 7 日，一支影片爬上微博科技榜第二十名。畫面裡，一隻猴子在洪水中把一隻狗往安全的地方拖。它具備一支爆紅影片該有的一切要素：災難、跨物種的善意、本能在沒有被要求的情況下做出道德上正確的選擇。人們轉傳，流淚。隨後它被確認為生成內容。

有意思的地方不在於它是假的，而在於大眾處理它的順序：先被打動，再起疑，最後查核。這個順序如今穩定到幾乎可以拿來對錶。

為什麼這個順序從來不變

因為在這條鏈上，沒有任何一個環節要求在發布的那一刻拿出證據。

一家新聞機構有編輯規範、有署名、有法務。一個把影片上傳到短影音平台的人，這些一樣都沒有。平台的預設是寬容的：內容在被檢舉之前一律視為真實。而觀眾唯一用得上的檢驗辦法是「這看起來像真的嗎」——而看起來像真的，恰恰是生成式影片現在最擅長的事。

濕漉漉的毛。水花濺起時那個特定的形狀。一隻受驚的狗扭動身體的方式。這些都不是無關緊要的細節，它們正是人類共情拿來當作證據的那些特徵。一個被訓練來生成可信畫面的模型，功能上就是一個被訓練來生產「讓人相信這段畫面」的線索的模型。

這就是那道不對稱。查核是緩慢的、對抗性的、無聊的。情緒是快速的、社交性的、有回饋的。勝出的格式，是那種為後者做優化、同時對跳過前者不收取任何代價的格式。

這個月的樣本格外密集

那隻猴子並非孤例。在同樣的幾週裡：

一段客機在大雨中失控旋轉的影片在海外平台流傳。Lead Stories 做了溯源，AI 偵測工具將它標記為生成內容。一段旅客在新疆喀納斯餵熊的短片被確認為合成。一張號稱來自汽車比較網站懂車帝內部「整改通知」的截圖，被查出是偽造的。

還有一件性質完全不同的事：售票平台淘票票的客服機器人辱罵了使用者。公司的回應是，不知道用的是哪一款大型語言模型。

把這些放在一起，一個模式就出來了。一起是惡意偽造，一起是粗心部署，一起是任何會用修圖軟體的人都做得出來的截圖。它們共享同一個缺陷：出事的時候，找不到一個可辨識的、生產了這些內容的主體。不是模型廠商，不是平台，也不是那個帳號。

代價落在下一支真實影片上

以下是我認為在這些討論裡被低估的部分。

一支假的救援影片造成的損害，不是某個人為一隻並不存在的猴子難過了一場。而是下一支真實的救援影片——它一定會來，就在下一個汛期，由某個只有一支手機、沒受過任何媒體訓練的人拍攝——在抵達時就已經被預先判定為不可信。觀眾的第一反應已經被訓練成「大概是 AI」。

這是對真實性課的稅，而且是累退稅。大型媒體養得起查核團隊，一個偶然拍到真實事件的普通人養不起。每一支瘋傳的假影片，都讓誠實的目擊者更不可信，而誠實的目擊者恰恰是最沒有能力自證的那一個。

這個實驗我們在照片時代已經做過一遍。路透社與法新的查核部門、以圖搜圖的習慣、「看手指」的民間智慧——都是十年修圖史長出來的東西。它花了好幾年，而且至今仍不可靠。影片更難，因為影片隱含著一個連續性聲明：這件事發生過，按這個順序，持續了這麼長的時間。生成這個聲明現在很便宜，稽核它不便宜。

一個簽章欄位不體面，但可能是必要的

在中文科技評論裡反覆出現的那套提議並不複雜：三個簽章欄位。

生成端：這是哪個模型做的，在匯出時聲明。發布端：誰為它背書，依據是什麼。平台端：偵測到什麼，做了什麼處理。三者缺任何一個，該內容預設帶上一個看得見的「疑似合成」標籤。

這些在技術上都不難。C2PA 清單和 SynthID 這類浮水印方案早就存在；難的是採用，因為從模糊裡獲益最多的那幾方，正是要簽字的那幾方。

而且確實有一個像樣的反對意見：強制的來源中繼資料本身也是一個監控面。一個記錄每張圖由哪個模型生成、並綁定到帳號的系統，就是一個記錄人們做了什麼內容的系統。任何嚴肅的提議都必須回答這一點，而大多數沒有。

在那之前，真正有用的是什麼

三個習慣，按有用程度遞減。

找出原件。幾乎所有瘋傳的合成影片都是二次上傳。如果你能找到的最早一則來自一個沒有任何歷史的帳號，那本身就是資訊。

看那些乏味的破綻。生成的洪水在和水裡物件互動時，往往會有一點不對——碎屑不會減速，水不會把東西弄濕。不是每次都有，也不可靠。但它比偵測模型便宜。

問一句誰受益。一支在四秒內就讓你情緒強烈、卻找不到可辨識來源的影片，不是證據。那是一種情緒，帶了一個副檔名。

為什麼偵測工具補不上這個缺口

有一種很自然的直覺：那就把偵測器做得更好。確實有好幾款，而且它們在模型的原始輸出上表現相當不錯。

麻煩在於生成與觀看之間的那條流程。一支合成影片在你看到它之前會被重新編碼三次——上傳時一次，平台的轉碼器裡一次，有人螢幕錄影轉傳到別處時又一次。每一次都會剝離或破壞偵測器要找的統計指紋。到你手上的那支影片，已經是被壓縮、被裁切、被調過色的衍生物，而偵測器本可以辨識的是它先前的樣子。

還有誤差的不對稱。一個把 5% 的真實素材標成合成的偵測器，在新聞編輯台上是不可接受的——你不能因為模型這麼說，就去告訴一位目擊者他的影片是假的。一個漏掉 5% 假影片的偵測器同樣不可接受。不存在能同時滿足兩者的門檻，而誤判的成本落在一個人身上，不是落在一個平台上。

於是這些工具最後只剩一個狹窄的用途：分診。它們告訴查核台先去看哪裡。它們回答不了一位觀眾真正的問題——要不要為此動感情。

平台的誘因，說白了

關於標註為什麼遲遲不來，值得不帶感情地看一看。

一個替影片貼上「合成」標籤的平台，承擔了它先前不必承擔的責任。如果標籤貼錯了，貼在一支真實影片上，它就誹謗了一位目擊者。如果該貼而沒貼，它就誤導了觀眾。無論哪一種，平台都為一個它目前不必做的判斷承擔了責任。不標註是免費的。

整個算盤就是這樣，這也解釋了為什麼這個產業做了好幾年的自願性框架，卻幾乎沒有預設標籤。歐盟的做法——AI 法案下的機器可讀標註義務——是唯一一次試圖改變預設值的監管嘗試，而它的效果完全取決於標註能不能在上述那條轉碼流程裡活下來。早期證據並不樂觀。

回到那隻猴子。一隻生成的動物，某處一場真實的洪水，一個拿著手機的觀眾，而這條鏈上沒有人的職責是說明它到底是什麼。

於是又回到那個最便宜的習慣，那個沒人願意聽的習慣，因為情緒才是重點：問一句，誰從你四秒內被打中這件事裡獲益。猴子沒有救那隻狗。眼淚是真的。這兩件事可以同時成立，而它們之間的那道縫隙，就是這整個問題所在的地方。