← Zurück zum Blog
Aica. 7 Min. Lesezeit

NVIDIA gibt NVKE frei: eine Kubernetes-Kontrollschicht für GPUs

Veröffentlicht 11. Nov. 2026
NVIDIA gibt NVKE frei: eine Kubernetes-Kontrollschicht für GPUs

Das Unangenehme an GPU-Infrastruktur kommt nach der Lieferung der Karten: einer Team einen Teil davon zu übergeben, und zwar so, dass das Team ihn nutzen kann, ohne die ganze Maschine zu bekommen.

Genau darauf zielt dsx-ai-factory/nvke, und der Name ist wörtlich gemeint: NVIDIA Kubernetes Engine. NVIDIA hat das Projekt unter Apache 2.0 veröffentlicht, geschrieben in Go gegen 1.27.3, und es ist Preview. Diese Woche kamen rund 345 Sterne pro Tag dazu, was bei einem Infrastruktur-Repo mit insgesamt 809 Sternen heißt: Der Großteil des Publikums hat es in den letzten Tagen gefunden.

Was es ist, in NVIDIAs eigenen Worten

Das README ist sorgfältig bei den Definitionen, und diese Sorgfalt lohnt es, wiederzugeben, weil sie viel Verwirrung verhindert.

NVIDIA sagt ausdrücklich, dass NVKE weder eine Kubernetes-Distribution noch ein Cluster-API-Flavour ist. Das Projekt nennt sich selbst eine selbsthostende Fabrik für Kubernetes-Cluster. Ein wegwerfbarer Seed-Cluster zieht einen Management-Cluster hoch. Die Management-Ebene auf diesem Management-Cluster provisioniert dann bei Bedarf viele isolierte Workload-Cluster und verwaltet deren Lebenszyklus.

Eine Installation hat also zwei Arten von Clustern. Der Management-Cluster betreibt die NVKE-Management-Ebene und die Infrastruktur-Controller. Die Workload-Cluster betreiben Kundenanwendungen, jeder mit eigener Kontrollebene, eigenem etcd und eigenen Node-Pools. Sie betreiben die Management-Ebene. Ihre Kunden nutzen ihre Cluster über die Kubernetes-API und kubectl, und von ihrer Seite sieht es wie ein Managed Service aus.

Das ist die Form, die ein Plattformteam in einem Neocloud, einem Forschungslabor oder einem Unternehmen mit eigenen GPU-Racks am Ende von Hand baut. Irgendjemand muss die langweilige Mitte besitzen: Maschinen provisionieren, Nodes joinen, defekte Hardware tauschen, Kubernetes-Versionen anheben, und das pro Mandant ohne Quervermischung. NVKE ist diese Mitte, verpackt.

Die Identität ist der interessante Teil

Die meisten Komponenten sind erwartbar. Überrascht hat mich die Node-Identität.

Nodes attestieren über SPIFFE/SPIRE mit ihrem TPM, bevor sie Join-Credentials erhalten. Wer sich je gefragt hat, woher ein Cluster weiß, dass die Maschine, die um Beitritt bittet, die selbst provisionierte ist und nicht etwas anderes, das den Endpunkt gefunden hat, bekommt hier die Antwort, und es ist die richtige. Attestierung läuft gegen Hardware, nicht gegen ein Token, das jemand aus einer Config Map kopiert hat.

etcd-Datenverschlüsselung ist pro Cluster verfügbar, was in einem Multi-Tenant-Setup Grundvoraussetzung ist und kein Feature.

Die Maschinen kommen von NVIDIA Infra Controller, kurz NICo, dem in der Preview einzigen kompatiblen Infrastruktur-Anbieter. Das ist eine echte Einschränkung. Wer seine Hardware anders verwaltet, kann das noch nicht austauschen.

Ausprobieren ohne GPU

Das Freundlichste im Repo ist der lokale Quickstart, der eine Entwicklungs-Management-Ebene und einen Workload-Cluster auf simulierten Maschinen startet. Kein NVIDIA-Konto nötig. Voraussetzungen sind ein Linux-Host oder eine VM, amd64 oder arm64, mindestens 6 CPUs, 12 GiB freier Speicher, 100 GiB freie Platte, Docker und Unterstützung für virtuelles TPM. Auf macOS nimmt man eine Colima-VM.

Das Ziel der Übung ist eng und praktisch: einen Workload-Cluster erreichen und prüfen, dass seine Nodes Ready melden. Klappt das, hat man die ganze Schleife gesehen, ohne Silizium anzufassen.

Der zweite Weg ist der Build aus dem Quellcode, und er ist erfrischend banal:

git clone https://github.com/dsx-ai-factory/nvke.git
cd nvke
make build

Das erzeugt neun Binaries in bin/: agent, updater, controller, nvkectl, capd-reboot-controller, nvke-os-image-check, management-engine, tenant-api, operator-api. Der Build startet keine Management-Ebene und erzeugt keinen Cluster, was selbstverständlich klingt, bis man ein make-Ziel ausgeführt hat, das genau das tat.

Für eine echte Installation stellt man Maschinen, Netzwerk, Node-Images und Registries selbst und konfiguriert den Zugang zu NICo. Das Begleit-Repo nvkr, NVIDIA Kubernetes Recipes, baut die Node-Images und NVKE-Komponenten aus gepinnten Eingaben und verantwortet Build- und Release-Nachweise. „Was gebaut wird“ von „was ausgerollt wird“ zu trennen ist die richtige Naht, und die Artefakte bekommen damit eine Provenienzgeschichte getrennt von der Kontrollebene.

Der Abschnitt zu Grenzen liest sich wie ein Geständnis

Hier gewinnt NVKE etwas Vertrauen.

Die Preview kommt mit ausdrücklichen Warnungen, im README und nicht in einem Wiki vergraben. Die API-Authentifizierung ist aus, und die API nutzt nach der Installation reines HTTP. Man soll Authentifizierung und geschützten Zugriff konfigurieren, bevor Aufrufer zugelassen werden. Der Management-Cluster aktualisiert, skaliert und ersetzt sich nicht selbst. Es gibt kein Upgrade-Verfahren für die Management-Ebene und kein Backup- oder Restore-Verfahren. FDE-Node-Images sind nur zur Evaluierung gedacht und bieten keine Vertraulichkeit der Daten im Ruhezustand.

Diese Liste ist ungewöhnlich. Die meisten Preview-Ankündigungen schreiben „nicht für Produktion“ und gehen weiter. NVIDIA zählt die konkreten Arten auf, auf die man sich wehtun wird, und erlaubt damit die Entscheidung, ob die eigene Evaluierung sicher ist.

Für alle, die einen Rollout planen: reines HTTP plus fehlende Authentifizierung heißt, die Management-Ebene muss hinter einer selbst kontrollierten Netzgrenze stehen, Punkt. Das ist kein „wir härten es später“, es ist ein „das hier nicht routen“.

Für wen das gedacht ist

Drei Gruppen, grob.

Die erste ist jeder, der eine GPU-Cloud betreibt. Wer Kubernetes-Cluster auf eigener Hardware verkauft, hat bei der Bauen-oder-Kaufen-Rechnung für eine Kontrollebene schlechte Karten, weil sie nicht das ist, wofür Kunden zahlen, und gleichzeitig das, was einen um drei Uhr nachts weckt. Eine Apache-2.0-Management-Ebene mit kubectl-förmiger Oberfläche für Mandanten ist selbst in Preview-Qualität attraktiv, weil man den Code lesen kann.

Die zweite sind große Unternehmen mit zentralem Plattformteam und internen Kunden. Das Modell „der Betreiber fährt die Ebene, Kunden bekommen Cluster“ passt direkt darauf, wie eine Bank oder ein Industriebetrieb GPU-Kapazität tatsächlich zuteilt: ein Ticket, ein Quota und ein isolierter Namespace, nicht ein geteilter Cluster mit RBAC-Hoffnung.

Die dritte sind Forschungseinrichtungen. Mandantentrennung mit eigenem etcd pro Cluster und TPM-Attestierung kommt dem nahe, was eine Universität braucht, wenn vier Labore ein DGX-Rack teilen und eines davon etwas tut, das für die anderen nicht sichtbar sein darf.

Nicht gedacht ist es für ein einzelnes Team mit acht GPUs. Man würde mehr Zeit in die Kontrollebene stecken als in die Modelle.

Die strategische Lesart

NVIDIAs Softwarestrategie ist seit einer Weile konsistent: die Hardware leicht konsumierbar machen und die Orchestrierungsschicht kostenlos lassen. CUDA, NCCL, Triton, NIM und jetzt eine Kubernetes-Management-Ebene. Nichts davon sitzt dort, wo die Marge ist. Alles davon macht das Silizium nutzbarer, und dort sitzt die Marge.

Dazu kommt ein Wettbewerbswinkel. Die Geschichte von Managed Kubernetes für GPUs haben weitgehend die Hyperscaler erzählt, weil sie sowohl den Kontrollebene-Dienst als auch die Hardware besitzen. NVKE gibt jedem mit Racks dieselbe Form, ohne die Workload zu AWS schicken zu müssen. Für eine souveräne Cloud oder einen regulierten Industriekunden ist das eine echte Option, die es als Open Source vorher nicht gab.

Das Gegenargument ist Wartung. Eine Kontrollebene ist ein Dienst, den man nach Plan aktualisiert, an einem Freitag patcht und neu aufbaut, wenn der etcd-Snapshot kaputt ist. Sie ist keine Bibliothek, deren Version man in einer Lockfile anhebt. Das Fehlen eines Upgrade-Pfads für die Management-Ebene in der Preview ist keine Dokumentationslücke, sondern der schwierigste Teil des Problems, und NVIDIA hat ihn öffentlich noch nicht gelöst.

Behandle das also als Preview einer Architektur, nicht eines Produkts. Lies den Code, starte den lokalen Quickstart, bilde dir eine Meinung, ob das Seed-Cluster-Bootstrapping trägt, wenn der Management-Cluster selbst umziehen muss. Diese Frage, nicht der Modellkatalog, entscheidet, ob eine Kubernetes-Kontrollebene für GPUs wirklich Standardsoftware ist.

Apache 2.0 heißt: Wenn die Antwort nein lautet, kann man forken. Das ist der eigentliche Wert dieses Releases.

Verwandte Artikel