← 返回部落格
Ai預計閱讀 8 分鐘

4.7 萬條資訊、3961 個帳號之後,AI 假冒帶貨要補的是發布前那道關卡

發布於 2026年11月8日
4.7 萬條資訊、3961 個帳號之後,AI 假冒帶貨要補的是發布前那道關卡

11 月 6 日,網信部門通報了一輪集中整治的結果:清理違法違規資訊 4.7 萬餘條,處置帳號 3961 個。通報的對象寫得很具體,是「利用 AI 技術假冒仿冒知名公眾人物虛假帶貨、吸粉引流、誤導網民」。

通報裡點了四類情形,帳號名稱打了馬賽克,但平台分布很清楚。微信「花\*\*记」「时\*\*叙」「秀\*\*8」,抖音「微\*\*天」「S\*\*物」,小紅書「小\*\*C」「瓦\*\*款」,做的是未經授權仿冒名人肖像、合成名人聲音,或者盜用公眾人物家屬的照片做商品推廣。微信「山\*\*话」「旧\*\*故」用 AI 特效編造某位公眾人物罹患阿茲海默症的謠言。抖音「才\*\*河」、小紅書「秋\*」、B 站「老\*\*迷」、快手「云\*」假冒本人,用第一人稱發觀點、講經歷、說情感話術,把人往追蹤上引。快手「康\*」生成低俗舞蹈和親密互動畫面,靠這個吸粉再變現。

這四類的商業動機強弱差得很遠。第二類和第三類要的是流量,第一類和第四類最終都落到交易上。而第一類裡有一句話值得單獨挑出來:盜用公眾人物家屬的肖像照片、形象變體。這條路徑繞開了「名人本人素材難拿」的問題,用一張家屬合照加上換臉,就能拼出一支看起來可信的帶貨影片。

處罰落在帳號上,問題出在發布前

通報的措辭是「處置帳號」,不是刪除某支影片。這個差別不小。單則內容刪了可以重發,帳號被封才斷掉收款鏈路和粉絲池。從治理效率看,這是更有痛感的一刀。

但帳號處置是事後動作。央視《新聞聯播》的配評把平台該做的四件事寫成了順序:早識別、早預警、早攔截、早清理。四個「早」裡,前三個都在發布之前。

問題在於,AI 換臉的生成成本已經低到可以批量試錯,而識別成本仍然很高。一支 15 秒的仿冒影片,用現成工具幾分鐘能出,人工審核要看幾十秒才敢下判斷,機器審核還要面對壓縮、裁切、二次錄製這些規避手段。生成和識別的成本曲線現在是反著的。

《人工智能生成合成內容標識辦法》從 2025 年 9 月 1 日起施行,四部門聯合發布,要求顯式標識和隱式標識兩條都做。顯式是使用者看得到的提示,隱式是檔案中繼資料裡的暗記。這套設計在正常發布流程裡是有效的。問題在於,惡意帳號本來就不會老老實實走正常流程,中繼資料可以清,顯式標識可以裁,畫面可以翻拍。

所以平台真正能咬住的不是浮水印,是人和物的比對。公眾人物的臉和聲音屬於可枚舉的小集合,比對一份已知名單,技術上比判斷「這支影片是不是 AI 生成」要現實得多。這也是「事前預防」能落地的地方:發布環節攔一次,比事後追溯一千則更省。

手機螢幕上滑過短影音資訊流,畫面裡是打了馬賽克的帳號名稱。

司法那頭已經把舉證責任挪了位置

11 月 2 日上海一中院那起配音員的案子,給了一個很具體的訊號。侵權音檔和本人聲音在 28 個共振峰聲學指標裡有 24 個偏離度小於 10%,其中 16 個小於 5.36%,「較為相似」和「高度相似」合計占 90%。法院判平台營運方賠 5 萬元。

更關鍵的是舉證責任的分配。權利人只要證明兩件事:自己的聲音有被取得的合理管道,合成語音與自己高度相似,初步舉證就完成了。接下來輪到平台證明訓練資料來源合法,或者證明合成語音與權利人無關。判決書裡把這套規則的意義說得很直白,是為了回應 AI 侵權裡「證據偏在」的結構性問題,防止平台用「技術黑箱」「員工離職無法確認」這類理由把責任推掉。

這個案子的裁判思路對應的是 2026 年 9 月 7 日《最高人民法院關於依法審理涉人工智能糾紛案件的意見》第四條。同一條思路放到今天這輪整治裡,意思是一樣的:誰掌握資料,誰就要能拿出資料的來路。

對平台的現實含義是,訓練語料的來源紀錄、素材授權的憑證、審核環節的日誌,這些東西平時看著像合規文件,出事時它們是唯一能證明自己沒責任的材料。留痕的價值不在平時,在被告的那一天。

商家和創作者這邊,合規其實只有三條

第一條是授權鏈。用真人形象、真人聲音,不管是自己拍的還是合作方給的,都要有能落到紙面的授權範圍。上海那個案子裡,平台方的抗辯是「不知道對方是配音員」,法院沒有接受這個理由,因為不知道不等於可以用。

第二條是標識。顯式標識放在畫面裡,隱式標識留在檔案裡。這條現在已經是硬性要求,不是可選項。很多團隊嫌標識影響觀感,把它做得極小,這在實際執法裡很可能被認定為不合規。

第三條是素材來源留痕。這條最容易被跳過,也最容易在糾紛裡致命。素材從哪來、誰給的、授權涵蓋哪些用途,最好和成片一起存檔,而不是散在幾個人的聊天紀錄裡。

這輪整治不是一次性的

通報的最後一句寫的是「下一步,將持續加大整治力度」「進一步壓實網站平台主體責任」。這種表述在近兩年的 AI 治理文件裡出現過很多次,指向的是常態化,不是運動式。

對做 AI 內容生意的人來說,判斷標準其實變簡單了:能不能說清畫面裡的人是誰、授權從哪來、這則內容有沒有標。三件事都答得上來,就不用擔心某天帳號突然消失。答不上來,規模做得越大,風險累積得越快。

對平台來說,競爭的焦點會從「能不能生成」轉到「能不能在發布那一秒攔住」。3961 個帳號是這一輪的成績單,下一輪的成績單大概不會看處置了多少,而會看攔下了多少。

相關文章