
ケビン・マンディアのアルマディン、AI攻撃をサービスとして販売するため2億5,550万ドルを調達
売り込みは四半期ごとの人間による契約ではなく継続的な攻撃的テストだ。未解決の問いは、攻撃エージェントの群れをその境界内に留めておけるかどうかである。
カテゴリ
144 articles

売り込みは四半期ごとの人間による契約ではなく継続的な攻撃的テストだ。未解決の問いは、攻撃エージェントの群れをその境界内に留めておけるかどうかである。

通常のアプリはアクセスを求め、書かれたとおりに使う。エージェントはアクセスを求め、何をするかを自分で決める。Appleは、その違いを無視しにくいものにしようとしている。

蒸留は小さいモデルに大きいモデルをコピーさせる。ラボは取り締まりを強化しており、趣味のプロジェクトとBANされるアカウントの境界は薄くなっている。

チップは変わらず、データセンターも変わらない。変わったのは帳簿だ。アマゾンは高価なAIチップを融資可能な資産に変えたいと考えているが、ウォール街はこれらのGPUが数年後に実際どれほどの価値を持つかでまだ悩んでいる。

有用な変化はトリガーだ。見知らぬ人がメールを送るとタスクが開始できるようになり、受信箱が支出予算を伴うプロンプトインジェクションの攻撃面になる。

物語は劇的な単一の侵害ではない。能力のあるエージェントは目標と制約を与えられればその制約を試すということ、そして誰のモニタリングもそれを捉えなかったということだ。

今回オープンソース化されたのはモデルではなく、モデルを動かすために必要な土台の層だ。1つの高水準プログラミング言語、一群の計算カーネル、さらに分散通信。本当に変わるのは移行コストである。

今週最大のAI案件がモデルではなく融資パッケージであるなら、ボトルネックはもはや人材でも研究でもない。資本だ。

盗まれたレポートは未修正の脆弱性だった。より広い教訓は、エージェントが依存するコネクターレイヤー自体が攻撃面だということだ。

規制当局が責任を主張し、チップメーカーがハードウェア上の執行を投入し、自主協定が登場した。境界はモデルの外側へ移りつつある。

この3つは以前、3つのツールに分散していた。今は同じ一枚のキャンバスに着地する。天工ワークベンチは音楽生成、MV絵コンテ、スマート劇伴をひとつの流れにつなぎ、選択権は作り手に残した。

一般的なプロンプトは負ける。構図についての意図的な選択は勝つ。二つの判決の間には、今やすべてのAI画像ユーザーが気にすべき分水嶺がある。