你的 GeForce 跑 AI 只有半速,這是故意的

gpu-unlock 的 README 裡有個數字讓我放下咖啡杯:一張 RTX 4090 的 BF16 矩陣運算從 165 跳到 329 TFLOPS。不是靠超頻,也不是靠改過的 VBIOS,而是在 NVIDIA 驅動載入之前,往顯示卡的 speed selector 寫進兩個值。
這個專案整個秋天都在 GitHub 的每月趨勢榜上爬,目前大約 17,700 顆星。它是一個 Linux kernel module,GPL-2.0,由一個人維護,他在 README 末尾簽名時順便拜託大家幫他買更多 GPU。
NVIDIA 實際上賣給你什麼
GeForce 顯示卡出廠時,tensor core 在 FP16、BF16 與 TF32(FP32 累加)運算上被鎖在一半的速率。這不是什麼冷門指令集——幾乎所有未量化的推論、以及幾乎全部的微調都用它。同樣的晶片,掛上 RTX A 系列或資料中心型號,就是跑全速。
這不是秘密,這是市場區隔。README 只用一句話說明。有使用者問為什麼 NVIDIA 要把卡閹掉,它回答:「他們希望企業去買沒有這些限制、但貴上許多的專業卡。」
這個解鎖不是改驅動,也不是刷韌體。它是一個跑在 initramfs 裡的 module,在 nvidia 綁定顯示卡之前執行,寫入 speed selector(SS0 設為 0x88888888 會選到完整 BF16 速率,4 位元的 SS1 設為 0x8 則啟用 IMLA4),然後執行一次 function-level reset。這套手法結合了既有的解鎖方式和精準的時序。因為磁碟上什麼都沒被改,新的 NVIDIA 驅動釋出也不會把它還原。

增益是真的,但不均勻
標題數字是稠密矩陣的吞吐量,而且很大。RTX 3060 從 27 到 51 TFLOPS,3090 從 75 到 125。4090 的峰值直接翻倍——但 README 也講白了:4090 會在 tensor core 用盡之前先撞到功耗牆,所以真實工作負載的增益遠低於峰值暗示的數字。
真實工作負載才有趣,因為差距非常大:
- LLM prefill/prompt 處理(FP16、BF16、AWQ、GPTQ):+25–55%
- 首字延遲:降低 25–30%
- BF16 的 LoRA 與全參數微調:+25–50%
- 圖像生成(ComfyUI 裡的 SDXL、SD 1.5、DiT 模型):+30–55%
- 以 BF16 運算的影片生成(Wan 2.2):+15–20%
- FlashAttention 與 SDPA kernel:+50–60%
- llama.cpp/Ollama 搭配量化 GGUF:0–15%,主要出現在長上下文
- 逐 token 解碼、INT8/FP8/INT4、遊戲、純 FP32 CUDA:完全沒有變化
最後那一列是多數人會漏掉的。如果你的工作負載是記憶體頻寬綁定的解碼——也就是單卡上大多數的聊天推論——你什麼都得不到。這個解鎖買的是矩陣吞吐量,不是頻寬。跑 4-bit 模型、batch size 1 的人,可以直接把這個分頁關掉。
它划得來的地方是 prefill、微調和擴散模型。圖像生成快 30–55%,對「一個下午能迭代幾次」是實質的改變,而且除了熱,電表不會多跑。
為什麼「位元完全相同」才是有意思的宣稱
README 說,解鎖前後的輸出不論位元都完全相同,變的只有速度。這一句話把它跟超頻區隔開來,而這個區隔在法律與實務上都有意義。
超頻會改變結果,可能弄壞長時間的訓練,而且廠商有辦法偵測,保固直接作廢。拿掉速率限制不會改變算術——同樣的指令、同樣的順序,只是每個時脈週期做得更多。如果你有可重現性的要求,它還在。
這也代表真正的風險只有熱與電。README 的回答很節制:標準的降頻與電源管理都還在,所以卡片應該是降頻而不是燒掉。對一台通風良好的桌機來說,這說法合理。但顯然,這不是你可以拿租來的工作站去賭的保證。
怎麼裝,以及什麼會壞
只支援 Linux。如果你的發行版是 Arch、Debian/Ubuntu 或 Fedora,安裝只要三步:
git clone https://github.com/Zagitta/gpu-unlock
cd gpu-unlock
make install
然後在 kernel command line 加上 gpu_unlock.targets=all——如果你只想解鎖特定幾張卡,就換成以逗號分隔的 PCI 位址——重新開機。驗證方式是 journalctl -k -b | grep gpu_unlock。
顯示卡支援度這裡,專案對自己的極限很坦白。Ampere(RTX 30)標為穩定,有超過一百份使用者回報。Ada(RTX 40)和 Turing(RTX 20)是實驗性。Blackwell(RTX 50)不支援,而且依作者的說法,大概也不會做。
有兩種失敗模式值得在動手前知道。筆電只要獨顯斷電就會失去解鎖,很多機器閒置時就會斷;關掉 runtime power management 對某些型號有幫助,對另一些沒有。還有 suspend to RAM 會把 selector 重置,不過 module 預設會在喚醒時重新套用解鎖,多花大約一秒。
Windows 只有第三方的移植版,README 連結過去時附了一句「後果自負」。它也用一種看過太多次的口吻警告:市面上有打著這個專案名號的加密貨幣和安裝檔在流傳,那些都不是他做的。
沒有人想寫的那一段
全世界遊戲 PC 裡的 AI 算力,有一半被鎖在一道韌體開關後面,而那道開關存在的目的是保護一個價格級距。這才是這裡真正的發現,而且它比一個 repo 大得多。
一旦你知道這件事,有些事看起來就不一樣了。雲端 GPU 的定價是對著「沒有限速」的卡在定的。一張二手的 3090,兩年來一直默默比它的標價更值錢。而「認真做推論就得用資料中心 GPU」這整套說法,在一個 kernel module 能讓價格只有十分之一的卡回收 65% tensor 吞吐量之後,就沒那麼站得住腳了。
有一個站得住腳的反駁,我來替它說:市場區隔正是 NVIDIA 養得起那套讓這些卡能用的軟體堆疊的方式。CUDA 不是自己養活自己的。解鎖消費級顯卡不算偷,但也絕不是免費——成本是由每一個買專業卡的人扛下來的。
那是關於公平的爭論,不是關於那道開關存不存在的爭論。而關於公平的爭論,通常攔不住一個手邊有台閒置 Linux 機器、還有一份週五前要跑完的微調工作的人。
如果你打算試
找一台你捨得重灌的機器來做。先確認你的世代——回報最多的在 Ampere。用你實際在跑的工作負載做前後 benchmark,不要用合成的 GEMM,因為整件事的重點就是:增益完全取決於你卡在矩陣運算還是記憶體頻寬。
然後讀 FAQ。作者回答「這會不會傷我的 GPU」時,給了一個有理有據的「不會」;回答「NVIDIA 為什麼要這樣做」時,只給了一句話,比多數廠商白皮書都有用。