スマホ1台で350億パラメータ、Demoから日常へ

スマホ1台で350億パラメータ、Demoから日常へ

10月13日、面壁智能（ModelBest）は新世代のオンデバイス・マルチモーダル大規模モデル MiniCPM-V4.7 を発表し、35B-A3B と 1B の2バージョンを同時に公開した。一見すると通常のアップデートだが、35B-A3B のモデルはもう少し見る価値がある。総パラメータは350億、MoE（Mixture of Experts、混合エキスパート）アーキテクチャを採用し、推論ごとに約30億パラメータだけを活性化する。公式は「エッジでロスレスかつ滑らかに動作する初のオープンソース MoE モデル」とうたい、実行時のメモリ使用量は約3GBだという。

iPad Pro での実測では、デコード速度は15 token/s以上。質問すれば答えが返ってきて、プログレスバーがゆっくり進むのを眺める必要はない。

エッジにおける MoE のジレンマ

MoE が流行るのは、計算がうまく合うからだ。モデルを多くの「エキスパート」に分割し、毎回そのうちのいくつかだけを呼び起こす。総パラメータは大きく積める一方で、実際の計算量は小さなモデルに近い。この路線はクラウドでは快適で、データセンターには VRAM がいくらでもある。

エッジに移すと途端に厄介になる。ボトルネックは計算力ではなくメモリだ。すべてのエキスパートを事前に載せておかなければならない。次の token がどれを使うか誰にも分からないからだ。350億パラメータを通常精度のまま置けば数十 GB になり、スマホのメモリはすぐ逼迫する。エッジでは「高性能」と「動く」が二者択一になってしまう。

次のエキスパートを先に呼び起こす

面壁の解は LES、Lookahead Expert Scheduling（先読みエキスパートスケジューリング）だ。発想は難しくない。どのエキスパートを使うか予測できるなら、先に予測すればいい。現在の行列計算がまだ進んでいるうちに、次に呼び出すエキスパートを判断し、先にメモリへロードして、ロードと計算を重ねて走らせる。

言い換えれば、「その場で倉庫に取りに行く」を「作業しながら次の荷物を誰かが先に手渡してくれる」に変えることだ。公式によれば、これは現在業界で唯一のオープンソース手法だという。

2つのバージョン、それぞれの役割

35B-A3B は flagship 級の能力をエッジへ運ぶ役割を担う。想定するのは、クラウド並みの理解力を求めつつ、データを外に出したくないという場面だ。オフラインの文書 Q&A、写真を撮ってその場で認識、ネットワークのない環境での音声アシスタントまで射程に入る。1B バージョンは効率を極限まで高め、一部の flagship 機だけでなく、より多くのデバイスで動かせるようにすることを狙う。

発表当日、MiniCPM-V4.7 は Rockchip、NVIDIA、Intel、Apple などのチッププラットフォームへの適応を完了し、iOS、Android、HarmonyOS をサポート、エッジ適応コードと主要な推論フレームワークも公開した。この一連の動きが示すのは明快だ。実験室のデモではなく、開発者がそのまま持って行って製品化できることを狙っている。

6000万ダウンロードの裏にある路線の選択

面壁と OpenBMB コミュニティが共同で維持する MiniCPM シリーズは、累計ダウンロード数が6000万回を突破し、テキスト、ビジョン、音声をカバーする。この数字はオープンソース界では小さくない。エッジの小型モデルという路線に安定した実需があり、メーカーの自己満足ではないことを示している。

同じ週、国内のエッジとオープンソース陣営には別の動きもあった。小米は MiMo-V2.6 シリーズをオープンソース化し、flagship の Pro 版は総パラメータ1.02兆、活性化約420億、100万 token コンテキストで、「再帰的自己改善」の強化学習路線を採り、珍しく RL 学習コストも公開した。中国科学院自動化研究所は武漢人工智能研究院と共同で紫東太初 ZDTaichu5.0-9B をオープンソース化し、重みだけでなく、データ取り込み・クリーニングから三次元アノテーション、合成検証まで揃った空間マルチモーダルのデータ生産パイプライン一式も公開した。

これらのプロジェクトに共通するのは、提供するものがもはやモデルだけではなく、「自社データをどうモデル能力に変えるか」という方法だという点だ。自社業界で成果を出したいチームにとって、後者のほうがしばしば価値が高い。

エッジは結局何を解決するのか

クラウドモデルのほうが賢い。これは当面変わらない。エッジの価値は絶対的な能力ではなく、ごく実用的な数点にある。レイテンシが安定し、ネットワークがなくても使え、データがデバイスから出ない。社内ツール、医療や産業点検、教育ハードウェアを作る人にとって、後の2つはベンチマークのスコアをいくつか上乗せするより重要なことが多い。

差もはっきり見ておきたい。35B-A3B は推論ごとに30億パラメータを活性化するので、能力はおおむね中小モデルの範囲に収まり、トップのクローズドモデルとは依然として別物だ。エッジでのロスレス動作が解決するのは「動く」ことで、「最高に動く」ことではない。オフラインで使え、プライベートで、いつでも待機してくれるアシスタントと捉えれば、期待値はより正確になる。

最後に

この1年、大規模モデル競争の主戦場はパラメータとランキングだった。だがパラメータ戦がある程度まで進むと、「ユーザーの手元のデバイスに収まるか」が新たな分水嶺になり始める。MiniCPM-V4.7 が面白いのは、また何かのスコアを更新したことではなく、「エッジで MoE を動かす」をスローガンから再現可能なエンジニアリング手法へと押し進めたことだ。

エッジの想像力はクラウドの複製にはない。クラウドの届かない隅々にある。地下のデータセンター、電波のない山の中、そして仕事の資料をどこかへアップロードしたくない普通の現場だ。こうした場面はトレンドにならないが、それこそがエッジモデルの本当の市場だ。