← ブログに戻る
Ai読了目安 13 分

暗黒の10月:AI プラットフォーム9社が失ったのは、コードではなく鍵だった

公開日 2026年11月10日
暗黒の10月:AI プラットフォーム9社が失ったのは、コードではなく鍵だった

10月、AI 開発者向けプラットフォーム9社がセキュリティインシデントを開示しました。Wiz Research が10月30日の記事で「Black October」と呼び始め、その名前は定着しました。パターンがあまりに一貫していたので、誰も調整があったと立証していないのに、調整されたように見えたからです。

開示順に並べると、10月6日の Fireworks AI、9日の Andromeda、14日の Zeabur、15日の Lightning AI、16日と17日の OpenCode、20日の Railway、23日の Warp、28日の CommandCode、そして30日の Northflank。Cloud Security Alliance もこれらの事案を関連付けて扱いました。Wiz は、これらを結ぶ単一の脆弱性や依存関係は存在せず、攻撃者が公的に同一の主体に紐付けられたわけでもない、と慎重に述べています。

各報告に共通するのは標的です。ソースコードではない。顧客のモデルでもない。学習データでもない。環境変数、とりわけ有料の AI サービスへの鍵を保持しているものです。

盗まれた鍵の経済学

ここから話はセキュリティの総括ではなく、ビジネスモデルになります。盗んだモデルの鍵は、自分で使わなければならない泥棒にとっては大した価値がありません。割引価格でアクセスを転売できる泥棒にとっては大きな価値があります。買い手は定価以下のフロンティアモデルを手に入れ、売り手は GPU に一切触れずに済むからです。

Wiz は、ベンダー侵害に帰属できると判断した2つの企業向け Amazon Bedrock キーを追跡しました。1つ目は、資格情報へのアクセスが報告されてから30分以内に不正な活動を示しました。住宅用回線の IP からの単発呼び出しで、複数組織にまたがる盗難キーの検査を1分間で行うスイープの一部でした。Claude Fable 5.1 を要求し、失敗し、Opus 5.5 にフォールバックして、通った。

次に来たのは忍耐です。数日間、各キーは1日あたり14〜120回の呼び出ししか見られず、間隔はおよそ1分、同じ小さな Go クライアントからでした。これは生存確認です。そして洪水。ケース A は30時間で約80万回の Bedrock 呼び出しを行い、約90%が成功、Opus 系のモデルが約4分の3を占めました。ケース B は13時間で約170万回、うち100万回以上が成功しています。定価で計算すると、Wiz は2件合わせて10万ドル以上を消費したと推定しています。

A ring of metal keys resting on the raised floor of a data center aisle

Wiz はまた、フロンティアモデルへの割引アクセスを宣伝していた2つの業者を発見し、どちらも盗まれたキーを試していました。研究者たちは、それらの業者を10月の侵害に断定的に結び付けられないと明言しています。同時に、複数の主体が同じキーを使っていたことは、市場が機能していることを示唆するとも明言しています。

扉はどう開いたのか

侵入経路は毎回違いました。ここが、プラットフォームを作る人なら誰でも気にすべき点です。

Fireworks AI は内部資格情報の不正利用を報告し、第三者がある限られた顧客アカウントの評価ジョブで使われる環境変数に到達したとしています。シークレットとして保存されていた API キーとトークンが取得されたと考えています。Zeabur は BleepingComputer の報道によれば、攻撃者が10月14日と15日に漏洩した内部資格情報を使い、最終的にプラットフォームのデータベースを読んだと述べました。320万件を超える環境変数のレコードと、321,810アカウントの情報です。管理トークンには有効期限がなく、2024年1月以来ローテーションしていなかったとも述べています。Railway の暫定的な見解は、ビルド基盤における権限昇格でした。Warp は第三者ベンダーへの依存を指摘しました。OpenCode はレガシーシステムを指摘しています。Lightning AI は以前にも、サプライチェーンを狙った別のキャンペーンで攻撃を受けていました。

うち2件は、ベンダー自身が「蒸留の試み」に帰属させています。別のモデルの出力を使って自社モデルを学習させる行為です。Fireworks、OpenCode、Warp はそろって「エージェントの群れ(agent swarm)」型の攻撃の兆候を報告しました。書いていて妙な一文ですが、これが現状です。自動化されたエージェントが自動化されたプラットフォームを探り、誰かの推論予算を解放する1つの環境変数を探している。

Zeabur の結末は、腰を据えて考えるべきものです。同社はサービス終了を表明しました。12月1日から更新を停止し、共有クラスタのサービスを一時停止し、12月31日までにすべてのサーバーを停止する。侵害はその一要因として挙げられています。ホスティングプラットフォームが1件の事故で死ぬことは、普通はありません。死ぬのは、その事故によって残った全顧客が「自分のシークレットは安全なのか」と問い、その答えが有効期限のないトークンについての一段落になってしまったときです。

多くの人が間違える指示

Northflank は10月30日、顧客に対し、プラットフォーム上に保持していたすべての環境変数が復号されたものとして扱い、すべてのシークレットをローテーションするよう伝えました。Fireworks も自社の通知で同じ点を述べており、モニターに貼っておくべき一文です。保存されたシークレットを削除しても、その下にある資格情報は無効化されない。

プラットフォームから環境変数を消すと、消えるのはあなたのコピーです。発行者のところにある鍵には触れていません。鍵は依然として有効で、課金可能で、転売されていれば他人のクライアントの中にまだあります。ローテーションは OpenAI、Anthropic、Bedrock、あるいは発行した場所で行う必要があり、しかもログを見に行く前にやらなければなりません。ログは何をされたかを知る手段であって、止める手段ではないからです。

検知の指針は具体的です。Bedrock は InvokeModel、InvokeModelWithResponseStream、Converse、ConverseStream を管理イベントとして CloudTrail に書き、既定で記録されます。10月1日以降を Wiz が公開したアドレスで検索してください。ヒットは手がかりであって証拠ではないと理解した上で。通常は1つのリージョンに留まるキーがグローバルな推論プロファイルを要求していないか、boto3 のユーザーエージェントからのクォータ列挙がないか、失敗した呼び出しの数秒後に別モデルへ切り替わっていないかを見ます。

ほとんど報じられなかったアーキテクチャ上の注意点が1つあります。CloudTrail が記録するのは Bedrock の API キーの背後にある IAM アイデンティティであり、キーそのものではありません。すべての外部プラットフォームが1つのアイデンティティを共有していれば、どのプラットフォームが漏らしたのか分かりません。それぞれに別のアイデンティティを与えてください。

顧客の側から見ると

これらのプラットフォームを使っているチームのほとんどは、変わったことはしていません。プレビュー環境、評価ジョブ、Railway のサービスからキーを環境変数に入れてモデルを呼ぶ試作。出荷するのに一番速かったからです。露出はアプリケーションの設計上の欠陥ではありません。既定値です。

安く済む変更が3つあります。キーごとに支出上限を設定し、転売業者が週末で6桁の請求を走らせられないようにする。プロジェクト単位でキーを発行し、失効を外科的にする。異常なモデル利用にアラートを張る。1日100回から10万回への跳ね上がりは微妙な話ではなく、ほとんどの課金ダッシュボードは誰かがセキュリティブログを読むより数時間早くそれを見せます。

どれも根本的な問題の解決にはなりません。根本とは、業界が2年かけて、価値の高い資格情報を信頼の低い場所に置くことを自明に簡単にしてきたことです。プラットフォームが便利なのは、まさにシークレットを代わりに扱ってくれるからです。その便利さが攻撃面です。10月は、その値段が請求された月でした。

関連記事