零数据留存是真的,入侵落在了它排除的那三块上

11 月 9 日,Notion 发布了一份安全公告。它的 AI 供应商 Fireworks AI 被入侵,导致 Notion AI 的聊天记录外泄,涉及不到 1% 的 Notion 工作区。Notion 自己的系统没有被攻破。它在 11 月 3 日断开了 Fireworks,删掉了托管在那边的数据,并停止发送流量。
让这件事不止于一条快讯的,是那份留存政策。Fireworks 的文档实际上是这样说的:提示词和生成内容只在请求期间存在于易失性内存里,请求结束就没了。这就是零数据留存,而对于大多数客户会想到的那些接口,这个说法是准确的。
同一份文档在后面又补了一句,说有几个功能确实会存客户内容:stored responses、batch 任务和训练,这几样都会写盘。这次入侵落在的正是存的那一侧。
目前披露的时间线
两次独立的入侵,中间隔了两个多星期,起作用的是第二次。
10 月 6 日,Fireworks 发现内部凭据被未经授权地使用。公司后来说,某些受影响账户里的环境变量被拿走,其中包括以 secret 形式存放的 API key 和 token。
接着有第三方卷进来了。一家托管 Fireworks 研发机器的云厂商在 10 月 23 日出过一次安全事件。10 月 24 日,未经授权的一方借这个入口进到 Fireworks 的开发机器,在上面跑了一个未授权的工作负载,这一轮又影响到了更多客户数据。
两次加起来被拿走的东西:资源元数据、账单和支付记录、部分客户的数据集,以及不完整的模型权重。Fireworks 说它不存客户的卡号,并说 Inference、Training SDK 和 Nexus 不受影响,因为它们默认就是零数据留存。CEO 的说法多了一个括号,安全更新里没有这层限定:Inference,不含 batch inference。
Fireworks 说这个行为者的动机是钱,目标是通过非法的路由网关出售大模型的访问权。这种做法有个名字,LLMjacking,Palo Alto Networks 的 Unit 42 被请来协助。
Notion 的那四天
Notion 这一侧是个样本,说明供应商的事故是怎么一层层传出来的。
11 月 2 日晚上,Fireworks 告诉 Notion 有一个小数据集被访问。那第一个数据集里只有合成的测试数据。

到 11 月 3 日上午,Notion 已经断开 Fireworks、删掉托管在那边的数据、停止发送流量。这个反应算快,但没挡住后来的泄露,因为在连线切断之前,数据早就写进 Fireworks 那边了。断连能拦住新的流量,拦不住已经落下去的东西。
11 月 6 日,Fireworks 说攻击者可能也拿到了客户数据。11 月 8 日确认。数据集里包含用于 Insights 功能的 Notion AI 聊天记录,这个功能是给客户看团队在用 Notion AI 做什么的。Notion 在 11 月 9 日发了公告,开始联系受影响的客户,并在 11 月 11 日吊销了在受影响消息里找到的 Notion API key。
Notion 也用 Fireworks 跑开放权重模型。这条路停了。调查期间 Insights 一直关着。
范围比标题给人的印象小。不到 1% 的工作区。对绝大多数受影响的工作区来说,聊天记录上没有标注作者或工作区身份的标签,也不包含工具调用的结果,所以它不像一份能直接对号入座的记录。
范围小不等于安全。人会往 AI 聊天框里粘密码、API key 和客户信息,这段文字敏不敏感,跟它有没有带着名字过来无关。Notion 自己的建议是把这些数据当作已经泄露,在这个时间窗里粘进 Notion AI 的东西一律轮换。
为什么留存承诺和这次入侵可以同时成立
这是安全团队最该带走的一段,关键在范围,跟诚实无关。两边给出的说法,各自都站得住。
零数据留存讲的是请求这条路径。提示词进来,token 出去,内容在请求期间待在内存里,不落盘。这是一个真实的属性,也是一个确实不错的默认值。
存储是另一个产品面。batch inference 之所以存在,是因为有些任务的量大到没法在一个请求里答完,输入和输出就得写到某个地方存着,直到任务跑完。stored responses 之所以存在,是因为客户要求以后还能把结果取回来。训练之所以存在,因为训练本来就是这个样子。
所以供应商可以拿着一份真实的 ZDR 承诺,同时手里还留着你的数据,因为数据住在那些不算请求的服务里。这次的披露读起来正是这样:受影响的是存储系统,而 batch、dataset、response 这几个功能才是往存储里写的那一批。
还有第二个细节。ZDR 政策在 Enterprise 账户上才有,而且它的默认值是关闭。所以对很多客户来说,ZDR 是一个你可以打开的东西,不是一个已经打开的东西。
这些都不让 Fireworks 显得特殊。每一家推理供应商都是这个形状,因为 batch 和训练才是钱在的地方,而这两样都需要持久化。教训在问卷上。问「你们留存我的数据吗」,得到的是关于一个请求的是或否。问「哪些接口会持久化内容、存多久、存在哪个区域、谁能读那块存储」,得到的才是能拿去行动的答案,而不是一句让人安心的承诺。
背后的经济账
动机解释了这事为什么一再发生。
LLMjacking 做的是套利生意,跟间谍活动不沾边。偷来的推理访问权被转卖给路由网关,这些网关想服务模型流量又不想付钱。被偷走的资产是你的 token 预算和速率限制,损失是一张账单,再加上你的数据本来值多少钱。
周边的数字不好看。Railway 在 10 月底披露,攻击者解密了最多 100,000 个工作区的环境变量,刷出约 74 万美元的欺诈性 AI 用量。Wiz 数到 10 月至少有九家 AI 开发者平台披露了事件,并把两把被偷的企业密钥追溯到同一个供应商,两者的首次未授权活动,都落在所报告的凭据被访问之后 30 分钟内,时间点完全一致。
30 分钟。凭据出现在某人的日志里,和有人把它花掉之间的间隔,现在比一顿午饭还短,按天计算的检测窗口纯属装饰。
该改的地方
四件事,按我会做的顺序。
盘清存储面。把产品调用的、会持久化数据的每一个接口列出来:batch 任务、stored responses、数据集、微调、评测任务。列不出来,你就没法评估下一篇公告里的那次入侵。
别再拿聊天记录当低敏感数据。在多数组织里它是密度最高的秘密通道,因为人会为了问一个问题,把一个配置文件整个粘进聊天框。不管适用的是哪套留存说法,这份记录都是皇冠上的宝石。
按披露轮换,不等确认。Notion 在 11 月 3 日就删数据、断连接,那时候还没人知道涉不涉及真实数据;11 月 11 日扫描发现 API key 就吊销了。这两步都对。
把供应商的供应商也算进来。这次入侵是从一家托管开发机器的云厂商开始的。你的 AI 供应商的安全状况里,包含一些你从没听过的公司,唯一能把它计入成本的办法,是要求对方披露分包商,并优先选那些愿意把名字点出来的供应商。
不太好听的总结
Notion 大部分做对了,十二小时内就动了,聊天记录还是泄露了。Fireworks 发布的留存政策是准确的,泄露落在它排除掉的那部分。两家公司都说了实话,结果对少数客户来说依然很糟。
这就是 AI 基础设施里供应链风险的形状,也是这个故事要讲范围、不讲欺骗的原因。一份政策可以同时是真实的和不充分的,这两件事并不冲突。要做的事,是在你从一份公告里得知之前,先问清这份政策管的是哪些名词。
相关文章
十份降级报告,没有一份改了订单数字
十份降级报告都在讲不确定性,没有一份改动订单。真正的变量是 158 美元的恐慌低点和 5.1% 的十年期收益率。
三十三年来第一次,黄仁勋不在电话会上
数字几乎无悬念,真正要看的是克雷斯如何在首次独自主持的电话会上回答指引、Rubin 与毛利率三个问题。
一份社区维护的点击表,关掉了国产 Android 系统里的广告
它不动系统,不解锁,不刷机,只把厂商本来就留出来的开关一个个拨过去。代价是这份名单得一直有人续写。
GPT Image 2.6 守住 token 价格,账单却涨了
GPT Image 2.6 沿用了 2.5 的全部 token 费率,单张图却更贵,因为更多的活现在花在输出 token 上。上线十一天,定价结构说的比排行榜更多。