
27Bモデルを重みあたり2ビットに圧縮
Underdog AIがSaluki 27Bを公開。Qwen 3.8 27Bを重みあたり2ビットに圧縮し、ファイルは約7.89GBながら性能の大半を保ち、ツール呼び出しではフルサイズを上回った。
カテゴリ
332 articles

Underdog AIがSaluki 27Bを公開。Qwen 3.8 27Bを重みあたり2ビットに圧縮し、ファイルは約7.89GBながら性能の大半を保ち、ツール呼び出しではフルサイズを上回った。

JetBrains が Mellum2.1 を公開した。120 億パラメータの mixture-of-experts コーディングモデルで、実際のリポジトリでの強化学習によって事後学習している。

Anthropic が Claude Haiku 5.5 を公開、運用コストは Haiku 4.5 より約 75 パーセント低い。安価な層がほぼ無料になれば、プロダクトが何をすべきかを決めるのはその層になる。

OpenAI は 10 月初めに GPT-6 を全ユーザーへ展開し、約 12 億人が同時に新しいデフォルトモデルを得た。中核の Intelligent UI は、答えを対話的な部品から組み立てる。

Metaは初のフロンティア級モデルMuse WonderとMuse Wonder Fullを公開した。Active MemoryとActive Focusを柱に、会話をまたぐ記憶と長期的な集中を売り込む。

面壁智能が MiniCPM-V4.7 を発表。35B-A3B の MoE をエッジで動かし、LES の先読みでメモリを約3GBに抑えつつ、iPad Pro で15 token/s超を実現する。

モデルが知能で、harness は配管であり、両者は同じパッケージに同居する必要はない。一連のオープンソースプロジェクトがこの結び付きをほどき、好きなインターフェースで任意のフロンティアモデルを動かし、アクセスは既定でローカルに留める。

1ビットの重みは目新しい芸ではない。Microsoft の BitNet の三値方式が乗算を加算に置き換え、大規模モデルを普通の CPU で動かす仕組みと、その本当の代償を読み解く。

EU AI法第50条はAI動画の来歴メタデータをコンプライアンス問題に変えた。ラベルは生成時に組み込まれ、パイプラインで失われやすい。

エージェントは長く走るほど賢くなるのではなく、コンテキストウィンドウがゴミで埋まって鈍くなる。ツール出力の sandboxing から永続メモリ、routing まで、これらのプロジェクトがエージェントの記憶を直している。

Google は 2026 年 10 月 22 日に Gemini API 上の全 Veo エンドポイント(veo-3.1-lite-generate-preview を含む)を停止し、トークン課金の gemini-omni-1.1-flash に置き換える。

4GB の GPU に 2.8 兆パラメータ。誤植にしか見えない。AirLLM の発想はモデルを小さくすることではなく、一度に全部をメモリへ載せようとするのをやめることだ。層ごとにディスクから読み、使い終えたら手放す。代償は速度、その見返りとして、本来収まらないはずのモデルが動く。