GeForceのFP16を倍にするパッチ、効くのはRTX 30系まで

主張は一文で、読み終わる前に人を怒らせる種類のものだ。NVIDIAはGeForceカードに、FP32アキュムレーション付きのFP16、BF16、TF32演算のテンソルコアを半分の速度に制限して出荷している。
それはほぼすべての学習と非量子化推論が使う演算だ。同じシリコンをRTX Aシリーズやプロフェッショナル向けとして売るとフルレートで動く。gpu-unlockというプロジェクトは、起動時、純正ドライバが読み込まれる前にその制限を外すと主張し、それだけで約1万5000スターを集めた。
先に言っておく。これはLinux向けのブートレベルのカーネルパッチで、GPL-2.0。給料をもらっているマシンで試すものではない。
なぜこの主張は荒唐無稽ではないのか
ファームウェアによる製品セグメンテーションは陰謀論ではなくビジネスモデルだ。Intelは何十年も倍率ロックのCPUを売ってきた。GPUベンダーはチップをビニングし、ビンはクロックだけでは違わない。面白い問いは常に「セグメント化するか」ではなく、「どの能力を切り、それはハードウェアで切っているのかソフトウェアで切っているのか」だ。
プロジェクトの答えはソフトウェアで、具体的だ。FP16、BF16、そしてFP32アキュムレーション付きのTF32。FAQは当然の問いに一行で答える。「市場セグメンテーションです。企業には、この制限のないプロ向けカードをはるかに高い価格で買ってほしいのです」。そして2つ目の当然の問い、カードを壊すのかには「まずありえない」と答え、スロットリングと電力管理はそのまま残ると注記する。
どちらの答えも保証ではなく主張として扱うべきだ。仕組みはもっともらしく、動機は業界全体で文書化されている。特定のSKUでの長期的な熱の影響は、READMEが約束できるものではない。
数字に何が起きるか
READMEは期待される向上の表を載せている。FP16/BF16/TF32のテンソルスループット最大2倍、LLMのprefillが+25〜55%、ファインチューニングが+25〜50%、画像生成が+30〜55%。
異例に具体的な範囲で、その形が示唆的だ。prefillは大きな行列積の処理なので、生のテンソルスループットの恩恵を最も受ける。decodeはメモリ帯域律速なので恩恵が最も小さい。だから主張はprefillについてで、全体のトークン毎秒についてではない。ファインチューニングは中間。密な畳み込みと注意が中心の画像生成は上位に来る。
4090でLoRAファインチューニングをしているなら、9時間の実行が5時間になる差だ。夜間にバッチで画像を生成しているなら、400枚と550枚の差になる。どちらも丸め誤差ではない。

対応表こそが本題
ここでこのプロジェクトは、ほとんどのハードウェアハックがしない率直さを見せる。
Ampere、RTX 30シリーズ: 対応。全リストが明記されている。3050から3090 Tiまで、加えて特定のノートPC向け。
Ada Lovelace、RTX 40シリーズ: 実験的。
Turing、RTX 20シリーズ: 実験的。
Blackwell、RTX 50シリーズ: 非対応。FAQは「実現しそうにない」と添える。
最後の一行は対応リストより重い。最新のカード、今まさにAI用途で買われているカードこそ、これが効かないカードだ。つまりこのツールは汎用のアンロックではない。すでに多くの人が持っている特定世代のハードウェア向けの救出作戦だ。
見落としやすく、半日を無駄にするノートPCの注意点がある。ノートPCでは、dGPUが完全に電源オフにならない場合にしかアンロックが維持されない。多くはアイドル時に電源を落とし、アンロックが黙ってリセットされる。NVreg_DynamicPowerManagement=0x00 が効く機種もある。READMEの表現は「結果はまちまちと予想してほしい」で、それが正しい期待だ。
インストールの実際
ドライバの差し替えではない。そこが面白い設計判断だ。
リポジトリをcloneし、make install を実行し、カーネルコマンドラインに gpu_unlock.targets=all を足す。GRUBなら GRUB_CMDLINE_LINUX_DEFAULT を編集して再生成する。Fedoraなら grubby。systemd-bootならoptions行を編集する。そして再起動。
アンロックは純正NVIDIAドライバが読み込まれる前に起きる。つまりドライバ更新を生き延びる。ビルドで固定されているドライバ版は、アンロックが依存するファームウェアを取り出すためだけに取得されるのであって、アンロックがバージョン依存だからではない、とREADMEは明記している。
これはドライバのバイナリをパッチするのとは意味の違うリスク特性だ。ドライバパッチは更新のたびに壊れ、画面が出なくなることがある。ドライバが知らないブート時のファームウェアパッチは、動くか、きれいに失敗するかのどちらかになりやすい。
「なりやすい」は保証ではない。パラメータを足す前に、それなしで起動する手段を用意しておくこと。
誰が気にすべきで、誰がすべきでないか
気にすべき人。RTX 3090か4090でファインチューニングやバッチ画像生成をしていて、Linuxを使い、ブートローダの設定を編集するのに抵抗がない。経済性は馬鹿げている。すでに払ったハードウェアで、0ドルで30%のスループット向上。H100を時間貸しする市場では、奇妙な種類の無料昼食だ。
気にしなくていい人。Windowsを使っている。コミュニティによる移植版があり、README自身の助言は、出回っているインストーラには「細心の注意」を払えというものだ。正しい助言だ。非公式バイナリによるカーネルレベルのGPUアンロックは、信頼すべきでないカテゴリだ。
気にしなくていい人。RTX 50シリーズのカードを使っている。動かず、作者によればおそらく動かない。
気にしなくていい人。仕事が推論中心で帯域律速だ。decodeの速度はほとんど動かず、測れない変化のためにブートの複雑さを抱え込むことになる。
居心地の悪い部分
この話には「ベンダーはあなたを騙している」という教訓の版がある。私はそれは少し違うと思うし、なぜかを正確に述べておく価値がある。
NVIDIAは4090を1,600ドルで、RTX 6000 Adaをおおよそ6,800ドルで売る。あらゆる面で同一なら2つ目は誰も買わない。そして2つ目が、ドライバとCUDAエコシステムと、企業が実際に必要とするサポート契約を支えている。セグメンテーションは、その市場が清算される仕組みだ。
居心地の悪いのは、制限があることではない。制限が見えないことだ。箱には「FP16テンソルスループット:半分」と書かれていない。仕様表にも書かれていない。ベンチマークを取るか、1万5000スターのGitHubリポジトリを読み、仕様表が避けた問いに答えるFAQを読むことで知る。
それはハードウェアの問題というよりドキュメントの問題で、直すのはハードウェアより安い。数字を公開すればいい。プロ向けカードに価値があるかを、実際の差分を目の前にして判断させればいい。何年も後に、見知らぬ人のカーネルパッチで知るのではなく。
関連記事
Antigravityのリモートエージェント、クラウドVMで動く代わりに手放すもの
Antigravity 2.29でリモートエージェントが登場し、セッションとツールがGoogle管理のクラウドVMで動くようになった。ノートPCを閉じても作業は続くが、ローカルのMCPサーバーやskillsは失われる。
NVIDIA、世界モデル「Cosmos 3」の派生4種とデコード基盤「VFlash」を相次いで公開
NVIDIAは11月5日、16BのCosmos 3 Nanoを専門化した4つのチェックポイントをOpenMDW1.1で公開し、学習レシピと推論コードも添えた。翌日には幾何出力を並列生成するデコード基盤VFlashを発表している。
GitHubトレンドの4分の1を「エージェントskills」が占め、導入方法は4通りに分裂
11月8日のGitHubデイリートレンド15件のうち4件がエージェントskillsのリポジトリだった。形式は`SKILL.md`とYAMLフロントマターだけで単純だが、導入経路は4製品でばらばらで、重複が優先順位の問題を生む。
Thinking Machinesの「Inkling 2 Small」、594Bの疎なMoEで86.3% 重みは「来週」のまま
Thinking Machinesは11月5日、総パラメータ594B・トークンあたり17B活性の疎なMoE「Inkling 2 Small」を発表した。SWE-Bench Pro v2 Hardで86.3%を記録し、Apache 2.0の重みは公開1週間後以降とされる。