ゼロデータ保持は本当だった。侵害が起きたのは、その例外の3つだった

11月9日、Notionはセキュリティ勧告を出した。AIベンダーのFireworks AIでの侵害により、Notion AIのチャット記録が流出した。影響を受けたのはNotionワークスペースの1%未満だ。Notion自身のシステムが破られたわけではない。同社は11月3日にFireworksとの接続を切り、そこに置かれていたデータを削除し、トラフィックの送信を止めた。
これを単なるニュース速報で終わらせないのは、保持ポリシーのほうだ。Fireworksのドキュメントには、プロンプトと生成データはリクエストの間だけ揮発性メモリ上に存在する、という趣旨のことが書かれている。それがゼロデータ保持であり、ほとんどの顧客が思い浮かべるエンドポイントについては、この説明は正しかった。
同じドキュメントは、いくつかの機能は実際に顧客のコンテンツを保存すると付け加えている。stored responses、バッチ処理、そして学習だ。今回の侵害は、保存する側に落ちた。
開示されたタイムライン
侵入は2回あり、効いたのは2回目のほうだ。
10月6日、Fireworksは内部認証情報の不正利用を検知した。のちに同社は、影響を受けた一部のアカウントで、secretとして保存されていたAPIキーやトークンを含む環境変数が持ち出されたと述べている。
そこに第三者が絡んでくる。Fireworksの研究開発用マシンをホストしていたクラウド事業者で、10月23日にセキュリティインシデントが起きた。10月24日、権限のない第三者がその経路からFireworksの開発用マシンに入り、不正なワークロードを実行した。これが追加の顧客データへの影響につながった。
両方を通じて持ち出されたものは、リソースのメタデータ、請求と支払いの記録、一部顧客のデータセットの一部、そして不完全なモデルの重みだ。Fireworksは顧客のカード番号は保存していないとし、Inference、Training SDK、Nexusはデフォルトでゼロデータ保持のため影響がないと説明する。CEOの表現には、セキュリティ更新にはない括弧が付く。Inference、ただしbatch inferenceを除く。
Fireworksは行為者を金銭目的と説明している。違法なルーティングゲートウェイ経由で大規模言語モデルへのアクセスを売ることが狙いだ。この手口には名前があり、LLMjackingと呼ばれる。Palo Alto NetworksのUnit 42が支援に入った。
Notionの4日間
Notion側は、ベンダーのインシデントがどう伝播するかの事例になっている。
11月2日の夜、Fireworksは小規模なデータセットがアクセスされたとNotionに伝えた。その最初のデータセットに入っていたのは、合成のテストデータだけだった。

11月3日の朝までに、NotionはFireworksとの接続を切り、そこに置かれていたデータを削除し、トラフィックを止めた。速い対応だが、その後の露出は防げていない。接続を切る前に、データはすでにFireworks側へ書き込まれていたからだ。切断で止まるのは新しいトラフィックであって、すでに落ちたものではない。
11月6日、Fireworksは攻撃者が顧客データにも到達した可能性があると述べた。11月8日に確認。データセットにはInsights機能で使われていたNotion AIのチャット記録が含まれていた。Insightsは、チームがNotion AIをどう使っているかを顧客に見せる機能だ。Notionは11月9日に公表し、影響を受けた顧客への連絡を始め、11月11日には影響を受けたメッセージ内で見つかったNotion APIキーを失効させた。
Notionはオープンウェイトモデルの実行にもFireworksを使っていた。これは止めた。Insightsは調査が続く間、停止している。
範囲は見出しが示すより狭い。ワークスペースの1%未満。影響を受けた大多数のワークスペースでは、記録に作成者やワークスペースを識別するラベルは付いておらず、ツール呼び出しの結果も含まれていなかった。
狭いことは安全を意味しない。人はパスワードやAPIキー、顧客の情報をAIのチャット欄に貼り付ける。その文章が機微かどうかは、名前が添えられているかとは関係がない。Notion自身の助言は、このデータは露出したものとして扱い、その期間にNotion AIへ貼り付けたものはすべてローテーションせよというものだ。
保持の主張と侵害が両立する理由
ここがセキュリティチームの持ち帰るべき部分だ。焦点は範囲にあり、誠実さとは別の話になる。両社の説明は、それぞれ筋が通っている。
ゼロデータ保持は、リクエストの経路についての声明だ。プロンプトが入り、トークンが出て、内容はその間メモリ上にある。ディスクには何も書かれない。これは実在する性質で、デフォルトとして素直に良い。
ストレージは別の製品面だ。batch inferenceがあるのは、1回のリクエストでは答えきれないほど大きなジョブがあり、入力と出力をジョブが終わるまでどこかに書く必要があるからだ。stored responsesがあるのは、顧客が後から取り出したいと求めたからだ。学習があるのは、学習とはそういうものだからだ。
つまりベンダーは、本物のZDRの主張を掲げたまま、あなたのデータも抱えていられる。データはリクエストでないサービスの側に住んでいるからだ。今回の開示はまさにそう読める。影響はストレージシステムにあり、batch、dataset、responseという機能こそがストレージに書き込むものだ。
もうひとつ細かい点がある。ZDRポリシーはEnterpriseアカウントで利用でき、既定値はオフだ。多くの顧客にとって、ZDRはオンにできるものではあっても、オンになっているものではない。
だからといってFireworksが特殊なわけではない。推論ベンダーはどこも同じ形をしている。batchと学習にお金が落ちるからで、どちらも永続化を必要とする。教訓はアンケートの側にある。「データを保持していますか」と聞けば、1回のリクエストについてイエスかノーが返る。「どのエンドポイントが内容を永続化し、どれくらいの期間、どのリージョンに、誰がそのストレージを読めるのか」と聞けば、行動に移せる答えが返る。
背後にある経済
動機を見れば、これが繰り返される理由がわかる。
LLMjackingがやっているのは裁定取引で、スパイ活動とは無縁だ。盗んだ推論アクセスは、モデルのトラフィックを無料でさばきたいルーティングゲートウェイに転売される。盗まれる資産はあなたのトークン予算とレート制限で、損害は請求書と、あなたのデータが本来いくらだったかだ。
周辺の数字はひどい。Railwayは10月下旬、攻撃者が最大100,000ワークスペースの環境変数を復号し、約74万ドル相当の不正なAI利用を発生させたと開示した。Wizは10月に少なくとも9つのAI開発者プラットフォームがインシデントを開示したと数え、盗まれた2つのエンタープライズキーを同一ベンダーにたどり着かせた。どちらも最初の不正活動は、報告された認証情報アクセスから30分以内で、時刻まで一致していた。
30分。認証情報が誰かのログに現れてから、誰かがそれを使うまでの間隔は、いまや昼休みより短い。日単位で測る検知ウィンドウは飾りでしかない。
やり方を変えるところ
4つ、私ならこの順でやる。
保存される面を洗い出す。プロダクトが呼ぶエンドポイントのうち、データが残るものをすべて列挙する。バッチ処理、stored responses、データセット、ファインチューニング、評価ジョブ。列挙できなければ、これから読む侵害の評価もできない。
チャット記録を低感度のデータとして扱うのをやめる。多くの組織で、そこは密度の最も高い秘密の経路だ。設定ファイルについて質問したい人が、そのファイルをチャット欄に貼り付けるからだ。どんな保持の説明が当てはまろうと、記録は王冠の宝石だ。
開示でローテーションし、確認を待たない。Notionは11月3日、本当のデータが関わっているか誰も知らないうちに削除と切断を済ませ、11月11日にはスキャンで見つかったAPIキーを失効させた。どちらも正しい。
ベンダーのベンダーを前提に入れる。侵入は開発用マシンをホストするクラウド事業者から始まった。あなたのAIベンダーのセキュリティ態勢には、聞いたこともない会社が含まれている。それをコストに織り込む方法は、下請けの開示を求め、名前を出すことをいとわないベンダーを選ぶことだけだ。
後味の悪いまとめ
Notionはほとんど正しく動き、12時間以内に動いて、それでもチャット記録は露出した。Fireworksは正確な保持ポリシーを公開し、侵害はそれが除外していた部分に落ちた。両社とも本当のことを言い、それでも少数の顧客にとって結果は悪いままだった。
これがAI基盤におけるサプライチェーンリスクの形であり、この話の焦点が範囲にある理由だ。ポリシーは正しいまま不十分でありうる。やるべきことは、勧告で知る前に、そのポリシーがどの名詞に適用されるのかを問うことだ。