部屋で一番安いモデルこそ、注目すべきモデルだ

部屋で一番安いモデルこそ、注目すべきモデルだ

Anthropic は 10 月 7 日に Claude Haiku 5.5 を公開した。それ自体が話題になるタイプの発表ではない。Haiku は Claude ファミリーの小さな存在で、地味な仕事をこなす役割を担っており、小型モデルのリリースがニュースになることはほとんどない。それでもこれはもう一度見る価値がある。理由は一つの数字にある。Haiku 4.5 より運用コストがおよそ 75 パーセント低いのだ。

すでに安いモデルのコストがさらに四分の一下がると、やる価値のあることが変わる。機能がほぼ無料になれば、使う量を制限しなくなる。

なぜ小型モデルが決定的なのか

今出荷されている面白い AI システムのほとんどは、単一のモデルではない。オーケストレーションだ。大きなモデルが計画を立て、複数の小さなモデルが個々のステップを担う。この文書を要約する、このチケットを分類する、このデータベースクエリに答える、このコード変更を確認する。手柄は大きなモデルが持っていく。量をこなすのは小さなモデルだ。

つまり、エージェント型プロダクトの経済性は、フラッグシップではなく安価な層に懸かることが多い。サブエージェントが数セントで済むなら、数を増やし、再試行を重ね、チェーンを長くできる。数ドルかかるなら、希少性を前提に設計することになり、その希少性は製品の質の低下として表れる。確認が減り、ループが短くなり、第二のやり方を試す意欲が薄れる。

Haiku 5.5 が実際にもたらすもの

Haiku 5.5 の価格は Haiku 5 と同じで、入力は 100 万トークンあたり 2 ドル、出力は 100 万トークンあたり 10 ドル、キャッシュ読み取りは 0.20 ドルだ。Anthropic によれば、ほとんどの作業で最大 30 パーセント安くなり、Claude Code 内での利用量は 30 パーセント増える。また、調整可能な effort 設定を備えており、回答前にモデルがどれだけ考えるかを調節できる。深さよりコストを優先して最適化するときには便利なつまみだ。

Anthropic はこれを要約、データベースクエリ、分類、コーディング用サブエージェントの作業に向けて位置づけ、モデルカードが CB-2 と Autonomy-2 のしきい値のいずれも超えていないことを示しており、壊滅的な誤整合のリスクは低いと述べている。モデルを配備する前に承認が必要なチームにとって、この細部は飾りではない。出荷できるか、レビューの列で待つかの違いになる。

調整可能な effort 設定は最も過小評価されている部分だ。同じモデルを二つの大きく異なる仕事に使えるようにする。大規模なフィルタリング向けの速くて安い処理と、フィルタを通過したケース向けのよりゆっくりで丁寧な処理だ。最初に安く、次に丁寧に、というパターンこそ、コスト効率の良いパイプラインが最終的に組み上げられる形だ。

5.5 世代は積み上がり続ける

Haiku 5.5 は Opus 5.5 に続く、5.5 ファミリーの二番目のモデルだ。10 月の業界全体の傾向は一貫している。推論は少し安くなり、小型モデルは少し良くなり、日常的な AI 作業の下支えとなるコストは下がり続ける。OpenAI は GPT-6 を全員に届け、Google は Gemini 4 Argon を予告して値下げし、Anthropic は自社ラインの底を削った。

どれも単体では劇的ではない。合わせて見ると、優れた知能がコモディティの入力になりつつあり、価値はその周りを取り巻くものへ移っていく市場を描いている。データ、ワークフロー、評価、そして信頼だ。モデル自体が安くなれば、差別化要因はモデルではなかった部分になる。

ルーティングが規律になる

フラッグシップと小型モデルの価格差が大きいとき、最も価値の高いエンジニアリング上の判断は、どのモデルを使うかではなく、どのステップでどのモデルを使うかであることが多い。うまく組まれたシステムは、簡単な 80 パーセントのリクエストを安価な層に送り、高価なモデルは本当に必要なケースのために取っておく。

これはルーティングの問題であり、見た目より難しい。答えを得る前に難易度を判断しなければならず、つまり、各リクエストの行き先を決める分類器かヒューリスティックを作る必要がある。片方向に間違えれば、些末なことに金を浪費する。もう片方向に間違えれば、重要なリクエストの品質を落とす。

75 パーセント安い小型モデルは、そのトレードオフの安全側を広げる。より積極的にルーティングでき、検証パスで誤りを拾える。ルーティングの判断も確認も、今はどちらも安いからだ。

浮いた分をどう使うか

明らかな一手は、より多くの作業を小型モデルに回すことだ。より繊細な一手は、高すぎるとして切り捨てていたタスクを見直すことだ。すべてのサポートチケットを読み、カタログのすべての画像にラベルを付け、すべての文書の初稿を書くシステムは、以前なら予算の判断だった。新しい価格では、そうした判断のいくつかが反転する。

ここには罠もある。安くなったトークンは、チームに評価を飛ばさせ、低品質の出力を大量に流させる誘惑になる。コストが下がっても、誤りが無料になるわけではない。むしろ、測定がより重要になる。失敗の形が「試す余裕がなかった」から「すべて試したが誰も確認しなかった」へ移るからだ。

これをうまく扱うチームは、浮いた分の一部を、安いトークンがこそ手頃にする地味なインフラに充てる。サンプリング、評価、ガードレールだ。価格の引き下げを産出量の拡大に使うのか、品質の拡大に使うのかの違いはそこにある。

なぜ値下げは見た目より大きいのか

このような値下げの複利効果については、少し立ち止まって考えたい。チームはモデル呼び出しに固定予算を費やすわけではない。品質の目標に対して費やすのであり、各呼び出しが安くなっても差額を懐にしまうわけではない。目標を引き上げるのだ。確認を増やし、再試行を増やし、文脈を良くし、チェーンを長くする。75 パーセントの削減は請求額を下げ、チームが試そうとする野心を引き上げる。

これまでの値下げも実際そう展開した。推論モデルが安くなると、システムはより多くのステップを推論し始めた。文脈が安くなると、システムはより多くの文書を投入し始めた。一単位の作業の価格が、その上に築かれるシステムの形を決める。より安い単位は、より丁寧な設計を買う。

これがエージェントにとって重要な意味はとりわけ直接的だ。エージェントはループであり、ループのコストは一ステップあたりのコストかけるステップ数だ。一ステップあたりのコストを十分に削れば、ループをより長く走らせられる。これこそ、役に立つエージェントと苛立たしいエージェントを分けるものの大半だ。Haiku 5.5 は、最後まで走らせる価値のあるループへの一歩だ。

静かな主張

フロンティアモデルの発表は注目を集める。だが、AI プロダクトが何をすべきかを決めるのは、たいてい小さなモデルのほうだ。Haiku 5.5 は、最下層の 75 パーセント値下げが脚注ではないことを思い出させる。それは経済的に可能なことが変わるということであり、そうした変化は数か月後に出荷される製品の中に、誰もモデルのリリースの手柄だとは思わない機能として現れる。