Le GeForce girano con metà dei tensor core: qualcuno ha scritto la patch

L'accusa sta in una frase, ed è di quelle che fanno arrabbiare prima di finire di leggerla: NVIDIA vende le schede GeForce con i tensor core limitati a metà velocità per i calcoli FP16, BF16 e TF32 con accumulo FP32.
È il calcolo che usa quasi tutto l'addestramento e l'inferenza non quantizzata. Lo stesso silicio venduto come RTX serie A o come scheda professionale gira a piena velocità. Un progetto chiamato gpu-unlock sostiene di rimuovere il limite all'avvio, prima che si carichi il driver di serie, e ne ha ricavato circa 15.000 stelle.
Prima di andare avanti: è una patch al kernel a livello di boot su Linux, GPL-2.0, e non è una cosa da provare sulla macchina con cui ti pagano.
Perché l'accusa non è assurda
La segmentazione del prodotto via firmware non è una teoria del complotto, è un modello di business. Intel ha venduto CPU con moltiplicatore bloccato per decenni. I produttori di GPU selezionano i chip, e le selezioni differiscono per più della frequenza. La domanda interessante non è mai «fanno segmentazione», ma «quale capacità specifica hanno spento, e è spenta nell'hardware o nel software».
La risposta del progetto è: nel software, e è specifica: FP16, BF16 e TF32 con accumulo FP32. Le sue FAQ rispondono alla domanda ovvia in una riga — «segmentazione di mercato, vogliono che le aziende comprino le schede professionali senza queste limitazioni a prezzi molto più alti» — e poi alla seconda domanda ovvia, se danneggi la scheda, con «molto improbabile», notando che throttling e gestione della potenza restano intatti.
Tratterei entrambe le risposte come affermazioni, non come garanzie. Il meccanismo è plausibile e il movente è documentato in tutto il settore. Le conseguenze termiche a lungo termine su uno specifico SKU non sono una cosa che un README possa promettere.
Cosa fa ai numeri
Il README pubblica una tabella di guadagni attesi: fino a 2× di throughput tensor FP16/BF16/TF32, +25–55% nel prefill degli LLM, +25–50% nel fine-tuning, +30–55% nella generazione di immagini.
Sono intervalli insolitamente specifici, e la loro forma è informativa. Il prefill è un carico di matmul pesante, quindi beneficia al massimo del throughput tensor grezzo. Il decode è limitato dalla banda di memoria, quindi beneficia al minimo: è per questo che l'affermazione riguarda il prefill e non i token al secondo complessivi. Il fine-tuning sta in mezzo. La generazione di immagini, che è un carico denso di convoluzioni e attenzione, finisce vicino al massimo.
Se fai fine-tuning LoRA su una 4090, è la differenza fra una sessione da nove ore e una da cinque. Se generi immagini a batch durante la notte, è la differenza fra 400 e 550 immagini. Nessuna delle due è un errore di arrotondamento.

La lista di compatibilità è la vera storia
Qui il progetto diventa onesto in un modo che pochi hack hardware fanno.
Ampere, RTX serie 30: supportata. La lista completa è esplicita: dalla 3050 alla 3090 Ti, più alcune parti specifiche per laptop.
Ada Lovelace, RTX serie 40: sperimentale.
Turing, RTX serie 20: sperimentale.
Blackwell, RTX serie 50: non supportata, e le FAQ aggiungono «improbabile che succeda».
Quell'ultima riga conta più della lista delle supportate. Le schede più nuove, quelle che la gente compra adesso per lavorare con l'AI, sono esattamente quelle su cui non funziona. Quindi lo strumento non è uno sblocco generale. È una missione di recupero per una generazione specifica di hardware che molte persone hanno già in casa.
C'è un'avvertenza sui laptop facile da perdere e che ti farà buttare un pomeriggio: sui portatili lo sblocco resta attivo solo se la GPU discreta non viene mai spenta del tutto. Molte la spengono in idle, il che resetta lo sblocco in silenzio. Impostare NVreg_DynamicPowerManagement=0x00 aiuta su alcuni modelli. «Aspettati risultati misti» è la formula del README, ed è l'aspettativa giusta.
Come va davvero l'installazione
Non è una sostituzione del driver. Ed è la scelta di progetto che lo rende interessante.
Cloni il repository, lanci make install, e poi aggiungi gpu_unlock.targets=all alla command line del kernel. Su GRUB modifichi GRUB_CMDLINE_LINUX_DEFAULT e rigeneri. Su Fedora usi grubby. Su systemd-boot modifichi la riga delle opzioni. Poi riavvii.
Lo sblocco avviene prima che si carichi il driver NVIDIA di serie, il che significa che sopravvive agli aggiornamenti del driver. Il README è esplicito: la versione del driver fissata nella build viene scaricata solo per estrarre il firmware da cui dipende lo sblocco, non perché lo sblocco sia legato a quella versione.
È un profilo di rischio molto diverso dal patchare il binario del driver. Una patch al driver si rompe a ogni aggiornamento e può lasciarti senza schermo. Una patch al firmware a tempo di boot che il driver non conosce ha più probabilità di funzionare o di fallire in modo pulito.
Più probabilità non è garanzia. Abbi un modo per avviare senza quel parametro prima di aggiungerlo.
A chi deve interessare, e a chi no
Interessa, se hai una RTX 3090 o 4090 che fa fine-tuning o generazione di immagini a batch, usi Linux e ti trovi a tuo agio a modificare la configurazione di un bootloader. L'economia è assurda: un guadagno del 30% nel throughput a costo zero, su hardware che hai già pagato. In un mercato dove la gente noleggia H100 a ore, è un pranzo gratis di tipo strano.
Non interessa, se sei su Windows. Esiste un port della community, e il consiglio del README stesso è di stare «molto attenti» con gli installer che girano. È il consiglio corretto. Gli sblocchi GPU a livello di kernel da binari non ufficiali sono una categoria di cui non fidarsi.
Non interessa, se hai una scheda RTX serie 50. Non funziona, e secondo l'autore probabilmente non funzionerà.
Non interessa, se il tuo lavoro è inference-heavy e limitato dalla banda. La velocità di decode si muoverà appena, e ti sarai preso la complessità del boot per un cambiamento che non riesci a misurare.
La parte scomoda
Esiste una versione di questa storia in cui la lezione è «i produttori ti stanno imbrogliando». Non credo sia del tutto giusto, e vale la pena essere precisi sul perché.
NVIDIA vende una 4090 a 1.600 dollari e una RTX 6000 Ada a circa 6.800. Se fossero identiche in tutto, nessuno comprerebbe la seconda, e la seconda è quella che finanzia i driver, l'ecosistema CUDA e i contratti di supporto di cui le aziende hanno davvero bisogno. La segmentazione è il modo in cui quel mercato si equilibra.
La parte scomoda non è che il limite esista. È che il limite è invisibile. Nulla sulla scatola dice «throughput tensor FP16: metà». Nulla nella scheda tecnica lo dice. Lo scopri facendo benchmark, o leggendo un repository GitHub con 15.000 stelle e una FAQ che risponde alla domanda che la scheda tecnica ha evitato.
È un problema di documentazione più che di hardware, e la soluzione costa meno dell'hardware. Pubblica il numero. Lascia che le persone decidano se la scheda professionale vale la spesa avendo il delta reale davanti, invece di scoprirlo anni dopo dalla patch al kernel di uno sconosciuto.
Articoli correlati
Gli agenti si spostano nel cloud: il task continua quando chiudi il portatile
Il task continua in una VM cloud dopo che hai chiuso il portatile, ma perdi il tooling interno e resta aperto chi approva le azioni irreversibili.
NVIDIA rilascia quattro modelli del mondo da 16 miliardi e un decoder 25 volte più veloce sulla geometria
Quattro generatori del mondo da 16 miliardi con le ricette di training, e un framework di decoding che emette geometria in un colpo. La valutazione manca.
Le skill occupano un quarto dei trend di GitHub, e ognuna si installa a modo suo
Una skill è una cartella di istruzioni, ma installarla ha quattro strade diverse e la copia locale non ha ancora un lockfile.
Un modello da 594 miliardi in cima alle classifiche. I pesi, però, non ci sono
Un modello forte, numeri buoni e una ricetta da leggere, ma i pesi che renderebbero verificabile la dichiarazione non sono ancora usciti.