Google ha messo una TPU in orbita e ha iniziato a fare i conti con il costo dei data center spaziali

Google ha lanciato la sua prima Tensor Processing Unit personalizzata in orbita terrestre bassa, a bordo di un razzo SpaceX e in collaborazione con il produttore di satelliti Planet Labs, nell'ambito di un progetto che chiama Suncatcher.

Il prototipo non è un data center. È un singolo chip in un piccolo satellite, e lo scopo del volo è rispondere a una serie ristretta di domande ingegneristiche. Una TPU può funzionare nello spazio senza surriscaldarsi, senza accumulare errori logici causati dalle radiazioni e senza degradarsi più rapidamente di quanto richieda la missione? Per provare anche solo a rispondere, il satellite deve fornire un kilowatt continuo di potenza e far funzionare il chip in raffiche di 15 minuti.

Perché qualcuno dovrebbe prendersi il disturbo

L'argomento a favore del calcolo in orbita è lineare, una volta preso sul serio. I data center terrestri si stanno scontrando con due vincoli duri contemporaneamente: elettricità e raffreddamento. Un pannello solare in orbita riceve la luce del sole senza nuvole e irradia calore nel vuoto, che non si riscalda mai. In teoria, è un ambiente per potenza e raffreddamento che un edificio sulla Terra non può eguagliare.

In pratica, la fisica si ribalta. Il vuoto non trasporta calore per convezione, quindi un satellite deve disperdere il calore residuo per irraggiamento, che è lento e richiede superfici ampie. L'hardware che non può essere riparato è hardware che devi progettare in modo eccessivamente robusto. Le radiazioni cambiano i bit nella memoria in modi a cui un gestore di data center non deve mai pensare.

Il volo di Google è stato accompagnato da un articolo sulla rivista Joule che ha modellato quanti lanci sarebbero necessari per rendere i data center orbitali economicamente sostenibili. Questa domanda, più del chip stesso, è la vera storia. Una singola TPU funzionante dimostra che un chip può sopravvivere al viaggio. Non dice quasi nulla sulla possibilità che una flotta di questi chip possa generare profitto.

La scommessa sotto il marketing

La cosa interessante di Suncatcher è che viene gestito come un esperimento, non come il lancio di un prodotto. Non c'è una pagina dei prezzi. Non c'è una lista d'attesa. Ci sono un chip, un budget energetico e un elenco di modalità di guasto da escludere.

È il modo giusto di leggerlo. Google non sostiene che il tuo prossimo job di inferenza verrà eseguito nello spazio. Sta testando se i componenti di base reggono abbastanza bene da giustificare un numero molto più grande. Le due variabili che contano di più sono il costo di lancio e la longevità del chip. Il costo di lancio è calato bruscamente e continua a calare. La longevità in orbita è la questione aperta, ed è quella che questo prototipo è progettato per sondare.

La finestra operativa di 15 minuti è un indizio. Far funzionare un acceleratore ad alta potenza a raffiche anziché in modo continuo suggerisce che i margini termici ed energetici sono stretti, e che il team è prudente su quanto calore il satellite debba dissipare. Un sistema di produzione dovrebbe funzionare molto più a lungo di 15 minuti per essere qualcosa di più di una curiosità.

Considera cosa fa un rack di server sulla Terra che un satellite non può fare. Assorbe energia costante da una rete che esiste già, scarica calore in aria raffreddata e può essere aperto, riparato e aggiornato da un tecnico che guida fino all'edificio. Ognuna di queste comodità deve essere ricostruita da zero in orbita, e nessuna di esse è economica.

La concorrenza silenziosa

Il calcolo orbitale è una di quelle idee che si collocano al limite della serietà, abbastanza popolari da attirare vera ingegneria e abbastanza speculative che la maggior parte del denaro va ancora altrove. Google non è l'unica a guardarci, e il calcolo cambia per ogni attore. Un'azienda che possiede già capacità di lancio ha una soglia diversa da una che deve comprare un passaggio.

C'è anche uno strato geopolitico di cui le aziende parlano raramente ufficialmente. I data center in orbita non sono soggetti alle regole sull'uso del suolo di un singolo paese, ma sono molto soggetti a chi possiede il lancio e le stazioni di terra. Lo spazio non elimina la giurisdizione. La sposta.

Quello spostamento taglia in entrambe le direzioni. Da un lato, un satellite attraversa i confini senza chiedere il permesso. Dall'altro, i segmenti di terra che comunicano con esso si trovano saldamente all'interno del territorio nazionale, e i razzi che raggiungono l'orbita partono da una manciata di rampe controllate da una manciata di governi. La libertà è reale ma condizionata, una combinazione che prima o poi i regolatori tendono a notare.

Il problema del segmento di terra

Un data center in orbita vale quanto il collegamento con esso. Ogni job di inferenza deve viaggiare fino al satellite e tornare indietro, e quel viaggio di andata e ritorno passa attraverso stazioni di terra limitate nel numero, contestate nella posizione e vincolate dal meteo. I collegamenti radio attraverso l'atmosfera sono più lenti e meno affidabili di un cavo in fibra all'interno di un edificio. Un modello che deve trasmettere token a un utente in tempo reale non può permettersi un percorso che passa due volte attraverso il cielo. Questo vincolo, più del chip, deciderà quali carichi di lavoro il calcolo orbitale può effettivamente servire. I job batch che tollerano la latenza possono aspettare un passaggio sopra la testa. Quelli interattivi no, e la maggior parte del denaro nell'inferenza AI è in quelli interattivi.

Il confronto da fare

Aiuta tenere Suncatcher accanto alle tendenze con cui compete. I data center terrestri stanno diventando più efficienti, non meno, e il settore continua a trovare modi per stipare più calcolo nello stesso involucro energetico. Il raffreddamento è passato dall'aria al liquido all'immersione, ogni passo compra margine che prima non c'era.

Il calcolo orbitale deve battere quel bersaglio mobile, non il data center di cinque anni fa. L'argomento a favore dello spazio era sempre più forte quando terra, acqua e potenza di rete erano i vincoli vincolanti, e quei vincoli sono esattamente ciò che un decennio di ingegneria terrestre ha progressivamente allentato. Questo non uccide il caso orbitale. Alza l'asticella di ciò che significa «vale la pena lanciare».

Cosa conterebbe come progresso

Tieni d'occhio tre cose. Primo, se la TPU sopravvive alla durata prevista della missione senza un guasto indotto dalle radiazioni abbastanza grave da contare. Secondo, se la stima del volume di lanci del modello di Joule scende, perché è ciò che sposterebbe il calcolo orbitale da una demo a un piano. Terzo, se qualcuno segue con una piattaforma più grande, perché un chip in un satellite non convalida una flotta.

Se questi punti reggono, la domanda interessante smette di essere tecnica e diventa economica. I data center sulla Terra sono vincolati da terra, energia, acqua e dalla pazienza delle persone che vivono nelle vicinanze. Lo spazio elimina i vicini e il meteo e li sostituisce con un programma di lancio e un conto di riparazione che non può essere pagato a nessun prezzo una volta che il satellite è lassù.

Quel compromesso non è ancora ovviamente buono. Ma non è più ovviamente assurdo, e un singolo chip funzionante in orbita basta a tenere aperta la domanda. Per un progetto che non ha venduto una singola unità di nulla, potrebbe essere tutto ciò che si era prefissato di fare.