零資料留存是真的,入侵落在它排除的那三塊上

11 月 9 日,Notion 發布了一份安全公告。它的 AI 供應商 Fireworks AI 被入侵,導致 Notion AI 的對話紀錄外洩,涉及不到 1% 的 Notion 工作區。Notion 自己的系統沒有被攻破。它在 11 月 3 日斷開了 Fireworks,刪掉託管在那邊的資料,並停止發送流量。
讓這件事不止於一則快訊的,是那份留存政策。Fireworks 的文件實際上是這樣說的:提示詞和生成內容只在請求期間存在於易失性記憶體裡,請求結束就沒了。這就是零資料留存,而對大多數客戶會想到的那些端點,這個說法是準確的。
同一份文件在後面又補了一句,說有幾個功能確實會存客戶內容:stored responses、batch 任務和訓練,這幾樣都會寫到磁碟上。這次入侵落在的正是存的那一側。
目前揭露的時間線
兩次獨立的入侵,起作用的是第二次。
10 月 6 日,Fireworks 發現內部憑證被未經授權地使用。公司後來說,某些受影響帳號裡的環境變數被拿走,其中包括以 secret 形式存放的 API key 和 token。
接著有第三方捲進來了。一家託管 Fireworks 研發機器的雲端供應商在 10 月 23 日出過一次安全事件。10 月 24 日,未經授權的一方借這個入口進到 Fireworks 的開發機器,在上面跑了一個未經授權的工作負載,這一輪又影響到更多客戶資料。
兩次加起來被拿走的東西:資源中繼資料、帳單和付款紀錄、部分客戶資料集的一部分,以及不完整的模型權重。Fireworks 說它不存客戶的卡號,並說 Inference、Training SDK 和 Nexus 不受影響,因為它們預設就是零資料留存。執行長的說法多了一個括號,安全更新裡沒有這層限定:Inference,不含 batch inference。
Fireworks 把這個行為者描述為經濟動機,目標是透過非法的路由閘道出售大型語言模型的存取權。這種做法有個名字,LLMjacking,Palo Alto Networks 的 Unit 42 被請來協助。
Notion 的那四天
Notion 這一側是個樣本,說明供應商的事故是怎麼一層層傳出來的。
11 月 2 日晚上,Fireworks 告訴 Notion 有一個小型資料集被存取。那第一個資料集裡只有合成的測試資料。

到 11 月 3 日上午,Notion 已經斷開 Fireworks、刪掉託管在那邊的資料、停止發送流量。這個反應算快,但沒擋住後來的曝光,因為在連線切斷之前,資料早就寫進 Fireworks 那邊了。斷開連線能攔住新的流量,攔不住已經落下去的東西。
11 月 6 日,Fireworks 說攻擊者可能也拿到了客戶資料。11 月 8 日確認。資料集裡包含用於 Insights 功能的 Notion AI 對話紀錄,這個功能是給客戶看團隊在用 Notion AI 做什麼的。Notion 在 11 月 9 日發了公告,開始聯絡受影響的客戶,並在 11 月 11 日撤銷了在受影響訊息裡找到的 Notion API key。
Notion 也用 Fireworks 跑開放權重模型。這條路停了。調查期間 Insights 一直關著。
範圍比標題給人的印象小。不到 1% 的工作區。對絕大多數受影響的工作區來說,對話紀錄上沒有標註作者或工作區身分的標籤,也不包含工具呼叫的結果,所以它不像一份能直接對號入座的紀錄。
範圍小不等於安全。人會往 AI 對話框裡貼密碼、API key 和客戶資訊,這段文字敏不敏感,跟它有沒有帶著名字過來無關。Notion 自己的建議是把這些資料當作已經外洩,在這個時間窗裡貼進 Notion AI 的東西一律換掉。
為什麼留存承諾和這次入侵可以同時成立
這是安全團隊最該帶走的一段,關鍵在範圍,跟誠實無關。兩邊給出的說法,各自都站得住。
零資料留存講的是請求這條路徑。提示詞進來,token 出去,內容在請求期間待在記憶體裡,不落磁碟。這是一個真實的屬性,也是一個確實不錯的預設值。
儲存是另一個產品面。batch inference 之所以存在,是因為有些任務的量大到沒辦法在一個請求裡答完,輸入和輸出就得寫到某個地方存著,直到任務跑完。stored responses 之所以存在,是因為客戶要求以後還能把它們取回來。訓練之所以存在,因為訓練本來就是這個樣子。
所以供應商可以拿著一份真實的 ZDR 承諾,同時手裡還留著你的資料,因為資料住在那些不算請求的服務裡。這次的揭露讀起來正是這樣:受影響的是儲存系統,而 batch、dataset、response 這幾個功能才是往儲存裡寫的那一批。
還有第二個細節。ZDR 政策在 Enterprise 帳號上才有,而且它的預設值是關閉。所以對很多客戶來說,ZDR 是一個你可以打開的東西,不是一個已經打開的東西。
這些都不讓 Fireworks 顯得特殊。每一家推論供應商都是這個形狀,因為 batch 和訓練才是錢在的地方,而這兩樣都需要持久化。教訓在問卷上。問「你們留存我的資料嗎」,得到的是關於一個請求的是或否。問「哪些端點會持久化內容、存多久、存在哪個區域、誰能讀那塊儲存」,得到的才是能拿去行動的答案,而不是一句讓人安心的承諾。
背後的經濟帳
動機解釋了這事為什麼一再發生。
LLMjacking 做的是套利生意,跟間諜活動不沾邊。偷來的推論存取權被轉賣給路由閘道,這些閘道想服務模型流量又不想付錢。被偷走的資產是你的 token 預算和速率限制,損失是一張帳單,再加上你的資料本來值多少錢。
周邊的數字不好看。Railway 在 10 月底揭露,攻擊者解密了最多 100,000 個工作區的環境變數,刷出約 74 萬美元的詐欺性 AI 用量。Wiz 數到 10 月至少有九家 AI 開發者平台揭露了事件,並把兩把被偷的企業金鑰追溯到同一個供應商,兩者的首次未經授權活動,都落在所報告的憑證被存取之後 30 分鐘內,時間點完全一致。
30 分鐘。憑證出現在某人的日誌裡,和有人把它花掉之間的間隔,現在比一頓午飯還短,按天計算的偵測窗口純屬裝飾。
該改的地方
四件事,按我會做的順序。
盤清儲存面。把產品呼叫的、會持久化資料的每一個端點列出來:batch 任務、stored responses、資料集、微調、評估任務。列不出來,你就沒辦法評估下一篇公告裡的那次入侵。
別再拿對話紀錄當低敏感資料。在多數組織裡它是密度最高的秘密通道,因為人會為了問一個問題,把一個設定檔整個貼進對話框。不管適用的是哪一套留存說法,這份紀錄都是皇冠上的寶石。
按揭露就輪換,不等確認。Notion 在 11 月 3 日就刪資料、斷連線,那時候還沒人知道涉不涉及真實資料;11 月 11 日掃描發現 API key 就撤銷了。這兩步都對。
把供應商的供應商也算進來。這次入侵是從一家託管開發機器的雲端供應商開始的。你的 AI 供應商的安全狀況裡,包含一些你從沒聽過的公司,唯一能把它計入成本的方法,是要求對方揭露分包商,並優先選那些願意把名字點出來的供應商。
不太好聽的總結
Notion 大部分做對了,十二小時內就動了,對話紀錄還是外洩了。Fireworks 發布的留存政策是準確的,外洩落在它排除掉的那部分。兩家公司都說了實話,結果對少數客戶來說依然很糟。
這就是 AI 基礎設施裡供應鏈風險的形狀,也是這個故事要講範圍、不講欺騙的原因。一份政策可以同時是真實的和不充分的,這兩件事並不衝突。要做的事,是在你從一份公告裡得知之前,先問清這份政策管的是哪些名詞。
相關文章
一份社群維護的點擊表,關掉了中國品牌 Android 系統裡的廣告
它不動系統,不解鎖,不刷機,只把廠商本來就留出來的開關一個個撥過去。代價是這份名單得一直有人續寫。
GPT Image 2.6 守住 token 價格,帳單卻變貴了
GPT Image 2.6 沿用 2.5 的全部 token 費率,每張圖卻更貴,因為更多工作現在花在輸出 token 上。上線十一天,定價結構說得比排行榜更多。
有人從外部重寫了 IDM,並寫下自己沒碰過的部分
Mister Download Manager 用 Rust 重寫了 Internet Download Manager 的下載流程,聲稱速度快 5 倍、支援 86 種語言。更值得細讀的,是它解釋如何在不複製任何程式碼的前提下完成重寫的那一段。
Rune 是一個 Rust UI 框架,設計初衷是讓 agent 能檢查自己的工作
Rune 能無頭繪製、匯出元素樹並接受腳本化輸入,這讓編碼 agent 拿到截圖永遠給不了的東西,一個可 diff 的訊號。這個框架仍是預先發布版,不接受 pull request。