Un modello dense da 65B batte rivali otto volte più grandi. La riga che conta è il costo

Ricursive Intelligence ha rilasciato Ripple-65B Preview il 4 novembre, con pesi su Hugging Face sotto Apache 2.0. L'azienda dichiara 80.52 su Terminal-Bench 2.1, un test di un agente che lavora dentro un terminale. Nella sua tabella comparativa supera di poco Beam 501B di Reflection a 80.1, Muse Spark Open 816B di Meta a 76.4, Inkling 975B di Thinking Machines a 63.8 e Nemotron 3 Ultra 550B di NVIDIA a 56.4.
Un modello da 65B in cima a una tabella piena di modelli sopra i 500B è il titolo. La riga sotto è più interessante: Ricursive dice che il tutto è costato 32 milioni di dollari, dall'inizio alla fine, e che è circa un decimo di quanto ha speso il precedente detentore del record.
Dense, per scelta
Ripple è un Transformer dense con 64.8 miliardi di parametri. Ogni parametro gira su ogni token. È insolito in un anno in cui la risposta predefinita alla scala è una mixture of experts che attiva una fetta dei pesi per token, ed è l'unica decisione che rende possibile il resto della storia.
Un modello dense chiede meno alla tua infrastruttura. Non c'è un router da bilanciare, nessun parallelismo tra esperti da partizionare, nessun pattern di comunicazione all-to-all da tarare. Ricursive dice di aver addestrato al 40 per cento di utilizzo hardware senza kernel personalizzati, partendo da una baseline Olmo 3 invece che da un foglio bianco. L'architettura è sottile e profonda: larghezza 5120 e 80 strati, con teste di attenzione sovradimensionate, gated attention e value residual aggiunti per aiutare il ragionamento.
La lettura dell'azienda è che adattare modello e ricette di training all'hardware ha comprato un'efficienza equivalente ad addestrare su 16 volte più GPU. Ricursive costruisce strumenti per il design di chip, quindi le sue dichiarazioni di co-design meritano un sopracciglio alzato. La parte misurabile è il numero di utilizzo e l'assenza di kernel personalizzati, entrambi verificabili contro la ricetta se hai l'appetito.
La finestra di contesto è 1,048,576 token, il pretraining è stato di 12 trilioni di token di testo e codice prevalentemente inglese, e il rilascio include un checkpoint BF16 instruction-tuned, un checkpoint NVFP4 a quattro bit e un modello base.
Cosa coprono 32 milioni di dollari
Il post di lancio è esplicito: i 32 milioni includono esperimenti di pretraining, dati, valutazioni, debug e le run finali. È il numero su cui la gente dovrebbe discutere, perché costo totale del programma e costo dell'ultimo job di training vengono continuamente confusi.
Ricursive dice che il team è passato da una a cinque persone durante lo sviluppo. Non ha comprato dati di post-training e ha costruito le proprie pipeline sintetiche. Dichiara 1.4 milioni di rollout per arrivare al punteggio su Terminal-Bench, circa 70 volte meno di quelli serviti a Beam di Reflection. Meno rollout è il tipo di risparmio che si vede in fattura e in calendario.
Se i numeri tengono, l'implicazione è scomoda per chi basa la strategia sul capitale come fossato. Un team di cinque persone, nessun kernel personalizzato, un modello dense e un decimo del budget producono un record su un benchmark. La contro-obiezione è che un singolo benchmark è un bersaglio stretto e che lo stesso team avrebbe bisogno di molto più di 32 milioni per essere competitivo su tutto.
Il che ci porta al resto della tabella.
Dove Ripple perde
La model card è schietta, ed è qui che guadagna un po' di fiducia. Su SWE-bench Verified Ripple segna 76.5 contro 81.6 di Reflection Beam. Su SciCode prende 39.4 contro 58.5 di Muse Spark Open. Su MCP Atlas, un test di uso degli strumenti, 71.67 contro 89.2. Su DeepSWE 1.1, 44.3 contro 60.0.
Lo schema è quindi un modello eccellente nel guidare un terminale e mediocre nel codice scientifico e nell'orchestrazione di strumenti rispetto ai maggiori concorrenti aperti. MMLU si ferma a 89.6 e AIME 2024 a 97.1, entrambi leggermente dietro i modelli più grandi, cosa che ti aspetti da un 65B contro un 816B.
La card ammette anche qualcosa che quasi tutte saltano: replicare i punteggi dei benchmark agentici è difficile, e alcune celle della tabella usano run di Ricursive dove l'altro laboratorio non aveva pubblicato un numero. Nota che i punteggi di Terminal-Bench sono risultati più bassi per quasi ogni modello quando eseguiti con l'harness ufficiale Terminus 2 a 128K di lunghezza di sequenza. Rileggi quella frase. Significa che la tabella è coerente al suo interno e non necessariamente portabile.
Il record potrebbe anche essere durato una settimana. Thinking Machines ha rilasciato Inkling 2 Small il 5 novembre, e la sua model card riporterebbe Terminal-Bench 2.1 all'81.3 per cento sullo stesso harness Terminus. Quei pesi sono rimasti chiusi al lancio, quindi non conta come record open-weight, e il laboratorio ha detto che i pesi Apache 2.0 arriveranno dopo i test di sicurezza esterni.
L'affermazione sul locale, smontata
Ricursive dice che Ripple sta su una NVIDIA DGX Spark e persino su un MacBook. Nessuno dei due post dice quanta memoria serva, e i file a piena precisione su Hugging Face arrivano a circa 130 GB, ben oltre un portatile.
Ciò che rende plausibile l'uso locale è il lavoro di quantizzazione. Il repository spedisce un checkpoint NVFP4 e un notebook Colab, e la pagina Hugging Face elenca già una trentina di versioni quantizzate. Su due B200 con batch size 8 il modello genera 250 token al secondo prima di quantizzazione o tuning dei kernel, una cifra ragionevole per un dense da 65B.
L'attrattiva per uno studio legale o un ambulatorio è ovvia: prompt e codice non lasciano mai la rete, e Apache 2.0 permette uso commerciale senza pagare una licenza a Ricursive. Il problema è che questo è un Preview con post-training leggero orientato al coding, e il repository spedisce codice personalizzato in `modeling_ricursive.py`, cioè un caricamento in stile trust-remote-code. Un platform team dovrebbe leggere quel file prima di eseguirlo dove conta.
Perché un'azienda di chip distribuisce un modello
Il business di Ricursive sono gli strumenti per il design dei chip, e Ripple è una versione general purpose del modello dietro quella piattaforma. L'argomento dell'azienda è che architettura del modello e architettura del chip vanno progettate insieme, e distribuire un modello aperto è un modo per dimostrare la tesi in pubblico.
È una motivazione diversa da quella dei laboratori di frontiera, e cambia cosa aspettarsi. Ricursive non deve vincere sull'ampiezza. Deve mostrare che un modello piccolo, ben accoppiato a hardware ben accoppiato, può fare lavoro agentico serio, perché è il pitch che vende a clienti che non possono comprare un data center.
Che il record regga alla verifica conta meno di se regge la ricetta. Un dense da 65B addestrato con 32 milioni di dollari, in esecuzione su una macchina da scrivania, con una licenza permissiva, è una proposta specifica e verificabile. Se tiene, la domanda interessante smette di essere chi ha il modello più grande e diventa chi può permettersi di continuare a fingere che la dimensione sia l'unico asse.
Articoli correlati
Gli agenti si spostano nel cloud: il task continua quando chiudi il portatile
Il task continua in una VM cloud dopo che hai chiuso il portatile, ma perdi il tooling interno e resta aperto chi approva le azioni irreversibili.
NVIDIA rilascia quattro modelli del mondo da 16 miliardi e un decoder 25 volte più veloce sulla geometria
Quattro generatori del mondo da 16 miliardi con le ricette di training, e un framework di decoding che emette geometria in un colpo. La valutazione manca.
Le skill occupano un quarto dei trend di GitHub, e ognuna si installa a modo suo
Una skill è una cartella di istruzioni, ma installarla ha quattro strade diverse e la copia locale non ha ancora un lockfile.
Un modello da 594 miliardi in cima alle classifiche. I pesi, però, non ci sono
Un modello forte, numeri buoni e una ricetta da leggere, ma i pesi che renderebbero verificabile la dichiarazione non sono ancora usciti.