你的 GeForce 跑 AI 只有半速,而且是故意的

gpu-unlock 的 README 里有个数字让我把咖啡放下了:一块 RTX 4090 的 BF16 矩阵算力从 165 涨到 329 TFLOPS。不是超频,不是刷改过的 VBIOS,是在 NVIDIA 驱动加载之前,往卡的速度选择器里写两个值。
这个项目整个秋天都挂在 GitHub 月榜上,现在大概 17,700 star。一个 Linux 内核模块,GPL-2.0,维护者只有一个人,README 末尾的署名还附了一句:请你帮他多买几张卡。
NVIDIA 到底卖给你什么
GeForce 出厂时,tensor core 在 FP16、BF16、TF32 配 FP32 累加的运算上被限在半速。这不是什么冷门指令集——几乎所有未量化的推理、以及几乎全部微调都用它。同样的硅片,挂 RTX A 系列或者数据中心型号卖,跑的就是全速。
这不是秘密。这是市场分层,README 里一句话就说清了。有用户问 NVIDIA 为什么要给卡阉一刀,回答是:“他们希望企业去买没有这些限制的专业卡,价格高得多。”
解锁不是打驱动补丁,也不是刷固件。是一个跑在 initramfs 里的模块,在 nvidia 绑定显卡之前写速度选择器(SS0 写 0x88888888 选全速 BF16,4 位的 SS1 写 0x8 打开 IMLA4),然后做一次功能级复位。手法是把已有的解锁思路配上精确的时序。因为磁盘上什么都没改,NVIDIA 发新驱动也不会把它顶掉。

提升是真的,但不均匀
头条数字是稠密矩阵吞吐,幅度很大。RTX 3060 从 27 到 51 TFLOPS。3090 从 75 到 125。4090 峰值翻倍——但要说清楚:4090 是先撞到功耗墙,才轮到 tensor core 不够用,所以真实负载的收益远小于峰值暗示的。
真实负载才有意思,因为差距大得离谱:
- LLM prefill / 提示词处理(FP16、BF16、AWQ、GPTQ):+25–55%
- 首 token 时间:低 25–30%
- BF16 的 LoRA 和全量微调:+25–50%
- 出图(SDXL、SD 1.5、ComfyUI 里的 DiT 模型):+30–55%
- BF16 计算的视频生成(Wan 2.2):+15–20%
- FlashAttention 和 SDPA 一类 kernel:+50–60%
- llama.cpp / Ollama 跑量化 GGUF:0–15%,基本只在长上下文里有
- 逐 token decode、INT8/FP8/INT4、打游戏、纯 FP32 CUDA:完全没变
最后一行是大家容易忽略的。如果你的负载是受显存带宽限制的 decode——单卡上大部分聊天推理都是——那你什么都拿不到。解锁买的是矩阵吞吐,不是带宽。跑 4-bit 模型、batch size 为 1 的人,可以把页面关了。
它划算的地方是 prefill、微调和扩散模型。出图快 30–55%,直接改变一个下午能做多少轮迭代,代价只是多一点热。
为什么“位级一致”才是关键
README 说解锁前后输出是位级一致的,变的只有速度。就这一句,把它和超频在法律上、实践上都分开了。
超频会改变结果,可能弄坏长时间的训练,还会以厂商查得出来的方式让保修失效。拿掉一个限速器不改变算术——同样的指令、同样的顺序,只是每个周期多做一点。你有可复现的要求,它还在。
这也意味着真正的风险只有散热和供电。README 的回答很有分寸:标准的降频和功耗管理都还在,卡应该会自己降频,而不是烧掉。对一台风道正常的台式机来说,这说得通。当然,这也不是那种你能拿租来的工作站去赌的保证。
怎么装,以及哪里会坏
只支持 Linux,发行版是 Arch、Debian/Ubuntu 或 Fedora 的话,三步搞定:
git clone https://github.com/Zagitta/gpu-unlock
cd gpu-unlock
make install
然后往内核命令行加 gpu_unlock.targets=all——只想解锁特定几张卡就填逗号分隔的 PCI 地址——重启。验证用 journalctl -k -b | grep gpu_unlock。
显卡支持这块,项目对自己的边界很坦白。Ampere(RTX 30)标为稳定,有一百多份用户报告。Ada(RTX 40)和 Turing(RTX 20)是实验性。Blackwell(RTX 50)不支持,作者说大概率也不会有。
有两种失败情况值得先知道。笔记本上,独显一旦断电解锁就没了,很多机器待机就会断;关掉运行时电源管理在某些型号上有用,有些没用。另外,挂起到内存会重置选择器,不过模块默认在唤醒时重新解锁,多花大概一秒。
Windows 只有第三方移植,README 给了链接,附一句“效果因人而异”。它还提醒——语气很平,像见过太多次——市面上有打着这个项目名义的币和各种安装包,都不是他做的。
没人愿意写的那一段
全世界游戏 PC 里有一半的 AI 算力,被一个固件开关挡着,而这个开关存在的意义,是守住一个价格档位。这才是这里真正的发现,而且它比一个 repo 大。
知道这件事之后,别的东西看起来也不一样了。云 GPU 的定价,是对着没被限速的卡定的。一张二手 3090 这两年一直悄悄比标价更值钱。以及“认真做推理得上数据中心卡”这套说法,在一个内核模块能从便宜十倍的卡上拿回 65% tensor 吞吐之后,会软一点。
也有站得住的反面意见,我替它说:分层是 NVIDIA 养活软件栈的方式,没有那笔钱,这些卡根本不好用。CUDA 不是自己把自己养大的。解锁消费卡不算偷,但也不是免费的——成本由买专业卡的人一起承担。
这是关于公不公平的争论,不是关于开关存不存在的争论。而关于公不公平的争论,通常拦不住一个手边有台空 Linux 机器、手上有个周五前要跑完的微调任务的人。
如果你打算试
在一台你舍得重装的机器上做。先确认代数——报告集中在 Ampere。前后都用你真正在跑的负载测,别用合成 GEMM,因为整件事的关键就在于:收益完全取决于你是被矩阵算力卡住,还是被显存带宽卡住。
还有,读 FAQ。作者回答“这会不会伤我的卡”是有理有据的不会,回答“NVIDIA 为什么这么干”只用一句话,比大多数厂商白皮书都有用。
相关文章
十份降级报告,没有一份改了订单数字
十份降级报告都在讲不确定性,没有一份改动订单。真正的变量是 158 美元的恐慌低点和 5.1% 的十年期收益率。
三十三年来第一次,黄仁勋不在电话会上
数字几乎无悬念,真正要看的是克雷斯如何在首次独自主持的电话会上回答指引、Rubin 与毛利率三个问题。
一份社区维护的点击表,关掉了国产 Android 系统里的广告
它不动系统,不解锁,不刷机,只把厂商本来就留出来的开关一个个拨过去。代价是这份名单得一直有人续写。
GPT Image 2.6 守住 token 价格,账单却涨了
GPT Image 2.6 沿用了 2.5 的全部 token 费率,单张图却更贵,因为更多的活现在花在输出 token 上。上线十一天,定价结构说的比排行榜更多。