4.7 萬條資訊、3961 個帳號之後,AI 假冒帶貨要補的是發布前那道關卡

11 月 6 日,網信部門通報了一輪集中整治的結果:清理違法違規資訊 4.7 萬餘條,處置帳號 3961 個。通報的對象寫得很具體,是「利用 AI 技術假冒仿冒知名公眾人物虛假帶貨、吸粉引流、誤導網民」。
通報裡點了四類情形,帳號名稱打了馬賽克,但平台分布很清楚。微信「花\*\*记」「时\*\*叙」「秀\*\*8」,抖音「微\*\*天」「S\*\*物」,小紅書「小\*\*C」「瓦\*\*款」,做的是未經授權仿冒名人肖像、合成名人聲音,或者盜用公眾人物家屬的照片做商品推廣。微信「山\*\*话」「旧\*\*故」用 AI 特效編造某位公眾人物罹患阿茲海默症的謠言。抖音「才\*\*河」、小紅書「秋\*」、B 站「老\*\*迷」、快手「云\*」假冒本人,用第一人稱發觀點、講經歷、說情感話術,把人往追蹤上引。快手「康\*」生成低俗舞蹈和親密互動畫面,靠這個吸粉再變現。
這四類的商業動機強弱差得很遠。第二類和第三類要的是流量,第一類和第四類最終都落到交易上。而第一類裡有一句話值得單獨挑出來:盜用公眾人物家屬的肖像照片、形象變體。這條路徑繞開了「名人本人素材難拿」的問題,用一張家屬合照加上換臉,就能拼出一支看起來可信的帶貨影片。
處罰落在帳號上,問題出在發布前
通報的措辭是「處置帳號」,不是刪除某支影片。這個差別不小。單則內容刪了可以重發,帳號被封才斷掉收款鏈路和粉絲池。從治理效率看,這是更有痛感的一刀。
但帳號處置是事後動作。央視《新聞聯播》的配評把平台該做的四件事寫成了順序:早識別、早預警、早攔截、早清理。四個「早」裡,前三個都在發布之前。
問題在於,AI 換臉的生成成本已經低到可以批量試錯,而識別成本仍然很高。一支 15 秒的仿冒影片,用現成工具幾分鐘能出,人工審核要看幾十秒才敢下判斷,機器審核還要面對壓縮、裁切、二次錄製這些規避手段。生成和識別的成本曲線現在是反著的。
《人工智能生成合成內容標識辦法》從 2025 年 9 月 1 日起施行,四部門聯合發布,要求顯式標識和隱式標識兩條都做。顯式是使用者看得到的提示,隱式是檔案中繼資料裡的暗記。這套設計在正常發布流程裡是有效的。問題在於,惡意帳號本來就不會老老實實走正常流程,中繼資料可以清,顯式標識可以裁,畫面可以翻拍。
所以平台真正能咬住的不是浮水印,是人和物的比對。公眾人物的臉和聲音屬於可枚舉的小集合,比對一份已知名單,技術上比判斷「這支影片是不是 AI 生成」要現實得多。這也是「事前預防」能落地的地方:發布環節攔一次,比事後追溯一千則更省。

司法那頭已經把舉證責任挪了位置
11 月 2 日上海一中院那起配音員的案子,給了一個很具體的訊號。侵權音檔和本人聲音在 28 個共振峰聲學指標裡有 24 個偏離度小於 10%,其中 16 個小於 5.36%,「較為相似」和「高度相似」合計占 90%。法院判平台營運方賠 5 萬元。
更關鍵的是舉證責任的分配。權利人只要證明兩件事:自己的聲音有被取得的合理管道,合成語音與自己高度相似,初步舉證就完成了。接下來輪到平台證明訓練資料來源合法,或者證明合成語音與權利人無關。判決書裡把這套規則的意義說得很直白,是為了回應 AI 侵權裡「證據偏在」的結構性問題,防止平台用「技術黑箱」「員工離職無法確認」這類理由把責任推掉。
這個案子的裁判思路對應的是 2026 年 9 月 7 日《最高人民法院關於依法審理涉人工智能糾紛案件的意見》第四條。同一條思路放到今天這輪整治裡,意思是一樣的:誰掌握資料,誰就要能拿出資料的來路。
對平台的現實含義是,訓練語料的來源紀錄、素材授權的憑證、審核環節的日誌,這些東西平時看著像合規文件,出事時它們是唯一能證明自己沒責任的材料。留痕的價值不在平時,在被告的那一天。
商家和創作者這邊,合規其實只有三條
第一條是授權鏈。用真人形象、真人聲音,不管是自己拍的還是合作方給的,都要有能落到紙面的授權範圍。上海那個案子裡,平台方的抗辯是「不知道對方是配音員」,法院沒有接受這個理由,因為不知道不等於可以用。
第二條是標識。顯式標識放在畫面裡,隱式標識留在檔案裡。這條現在已經是硬性要求,不是可選項。很多團隊嫌標識影響觀感,把它做得極小,這在實際執法裡很可能被認定為不合規。
第三條是素材來源留痕。這條最容易被跳過,也最容易在糾紛裡致命。素材從哪來、誰給的、授權涵蓋哪些用途,最好和成片一起存檔,而不是散在幾個人的聊天紀錄裡。
這輪整治不是一次性的
通報的最後一句寫的是「下一步,將持續加大整治力度」「進一步壓實網站平台主體責任」。這種表述在近兩年的 AI 治理文件裡出現過很多次,指向的是常態化,不是運動式。
對做 AI 內容生意的人來說,判斷標準其實變簡單了:能不能說清畫面裡的人是誰、授權從哪來、這則內容有沒有標。三件事都答得上來,就不用擔心某天帳號突然消失。答不上來,規模做得越大,風險累積得越快。
對平台來說,競爭的焦點會從「能不能生成」轉到「能不能在發布那一秒攔住」。3961 個帳號是這一輪的成績單,下一輪的成績單大概不會看處置了多少,而會看攔下了多少。
相關文章
一份社群維護的點擊表,關掉了中國品牌 Android 系統裡的廣告
它不動系統,不解鎖,不刷機,只把廠商本來就留出來的開關一個個撥過去。代價是這份名單得一直有人續寫。
GPT Image 2.6 守住 token 價格,帳單卻變貴了
GPT Image 2.6 沿用 2.5 的全部 token 費率,每張圖卻更貴,因為更多工作現在花在輸出 token 上。上線十一天,定價結構說得比排行榜更多。
有人從外部重寫了 IDM,並寫下自己沒碰過的部分
Mister Download Manager 用 Rust 重寫了 Internet Download Manager 的下載流程,聲稱速度快 5 倍、支援 86 種語言。更值得細讀的,是它解釋如何在不複製任何程式碼的前提下完成重寫的那一段。
Rune 是一個 Rust UI 框架,設計初衷是讓 agent 能檢查自己的工作
Rune 能無頭繪製、匯出元素樹並接受腳本化輸入,這讓編碼 agent 拿到截圖永遠給不了的東西,一個可 diff 的訊號。這個框架仍是預先發布版,不接受 pull request。