Google 把 TPU 送上軌道,開始盤算太空資料中心的成本

Google 已將其首顆客製化張量處理單元(TPU)發射至低地球軌道,搭載 SpaceX 火箭,並與衛星製造商 Planet Labs 合作,這項計畫名為 Suncatcher。
這個原型不是資料中心,而是小型衛星裡的一顆晶片;這次飛行的重點,是要回答一組範圍很窄的工程問題。TPU 能否在太空運行,而不會把自己燒壞、不會因輻射累積邏輯錯誤,也不會比任務所需的速度更快劣化?光是嘗試回答這些問題,衛星就必須持續供應 1 千瓦的電力,並以每次 15 分鐘的間歇方式運行晶片。
為什麼有人要費這個心
一旦認真看待軌道運算,它的理由就很直接。地面資料中心同時撞上兩大硬性限制:電力與冷卻。軌道上的太陽能陣列能取得不受雲層遮蔽的陽光,並將熱輻射進永遠不會升溫的真空。理論上,那是地球上的建築無法比擬的電力與冷卻環境。

實際上,物理會反過來對付你。真空無法以對流傳熱,所以衛星必須靠輻射排出廢熱,這種方式既慢,又需要大面積散熱表面。無法維修的硬體,就是必須過度設計的硬體。輻射會以資料中心營運商從不必思考的方式,翻轉記憶體中的位元。
Google 這次飛行搭配了一篇發表於《Joule》期刊的論文,模擬要讓軌道資料中心在經濟上真正可行,究竟需要多少次發射。這個問題,比晶片本身更是真正的重點。一顆能運作的 TPU 證明晶片能撐過這趟旅程,卻幾乎無法說明一整批 TPU 能否獲利。
行銷包裝底下的賭注
Suncatcher 有趣的地方在於,它被當成一項實驗來執行,而不是產品發表。沒有定價頁面,沒有等候名單。有的是一顆晶片、一份電力預算,以及一張待排除的故障模式清單。
這正是解讀它的正確方式。Google 並沒有宣稱你的下一次推論工作會在太空執行。它是在測試這些基礎元件能否足夠穩固地結合在一起,以證明值得把規模放大許多。最重要的兩個變數是發射成本與晶片壽命。發射成本已大幅下降,且仍在持續下降。在軌壽命則是未解問題,而這正是這個原型設計來探究的問題。
15 分鐘的運作時間窗口是一條線索。以間歇方式、而非連續方式運行高功率加速器,顯示熱與電力的餘裕很緊,團隊也在謹慎控制衛星必須排散的熱量。一套正式生產系統必須能運行遠超過 15 分鐘,才不會只是個新奇玩意。
想想看,地球上的伺服器機櫃能做哪些衛星做不到的事。它從早已存在的電網取得穩定電力,把熱排進冷卻空氣中,還能由一名開車到機房的技術人員打開、維修與升級。這些便利在軌道上全都得從零重建,而且沒有一項便宜。
安靜的競爭
軌道運算屬於那種處於認真邊緣的想法:熱門到足以吸引真正的工程投入,卻又投機到多數資金仍流向別處。Google 並非唯一研究它的人,而每個參與者的盤算都不同。一家已擁有發射能力的公司,與一家必須購買搭乘名額的公司,門檻並不一樣。
還有一層地緣政治因素,企業很少公開討論。軌道上的資料中心不受任何單一國家土地使用法規約束,但卻深深受制於擁有發射能力與地面站的一方。太空不會移除管轄權,只是把它挪到別處。
這種轉移是雙面刃。一方面,衛星跨越國界不需請求許可;另一方面,與它通訊的地面段仍穩穩座落於國家領土內,而能進入軌道的火箭,是從少數政府控制的少數發射台升空。這種自由真實存在,但有條件,而監管機關終究會注意到這樣的組合。
地面段的問題
軌道上的資料中心,再好也取決於連線品質。每一項推論工作都必須上傳到衛星再送回,而這趟來回必須經過數量有限、位置有爭議且受天氣限制的地面站。穿越大氣的無線電鏈路,比建築物內的光纖電纜更慢、更不可靠。需要即時向使用者串流 token 的模型,承受不起一條要兩度穿越天空的路徑。這項限制——更甚於晶片——將決定軌道運算實際上能服務哪些工作負載。能容忍延遲的批次工作可以等待衛星通過頭頂;互動式工作不行,而 AI 推論的大部分商機都在互動式這一類。
該做的比較
把 Suncatcher 與它所競爭的趨勢放在一起看,會很有幫助。地面資料中心的效率正不斷提升,而非下降,業界也不斷找到方法,把更多運算塞進相同的電力上限中。冷卻已從氣冷進展到液冷,再到浸沒式冷卻,每一步都換來過去沒有的餘裕。
軌道運算必須打敗這個不斷移動的目標,而不是五年前的資料中心。太空方案的理由,向來在土地、水與電網電力成為關鍵限制時最為強烈,而這些限制正是十年來地面工程持續鬆綁的對象。這不會殺死軌道方案,只會提高「值得發射」的門檻。
什麼才算得上是進展
要觀察三件事。第一,TPU 是否能撐過預定任務壽命,不出現嚴重到足以造成影響的輻射誘發故障。第二,《Joule》模型的發射量估計是否下降,因為那才會把軌道運算從展示推進到計畫。第三,是否有人跟進推出更大的平台,因為一顆衛星上的一顆晶片,無法驗證一整個衛星群。
如果這些都成立,有趣的問題就不再是技術問題,而是經濟問題。地球上的資料中心受制於土地、電力、水,以及附近居民的耐心。太空移除了鄰居與天氣,卻換來發射時程,以及一旦衛星升空後,無論出多少錢都無法支付的維修帳單。
這樁交易目前還稱不上明顯划算,但也不再明顯荒謬;而軌道上有一顆能運作的晶片,就足以讓這個問題保持開放。對一個任何東西都還沒賣出一個單位的計畫來說,這或許正是它一開始想達成的全部。