OpenAIs Forschungsschleife beginnt, sich selbst zu schließen

The Information berichtete am 21. September, dass die internen KI-Modelle von OpenAI die Trainingspipeline für neue experimentelle Modelle weitgehend automatisiert haben, einschließlich des Schreibens von GPU-Kernel-Code und der Optimierung von Trainingscode. Das Detail, das herausstach, war, wie die Arbeit beginnt. Ein Forscher gibt dem System ein Beispiel für eine Optimierung, die es verfolgen soll, und die KI verbringt dann Wochen damit, ähnliche Verbesserungen selbstständig umzusetzen und zu testen.

Mehrere interne KI-Agenten haben begonnen, bei Problemen ohne einen Menschen im Loop zusammenzuarbeiten. Berichtete Beispiele, die einst Jahre der Ingenieursarbeit erforderten, laufen jetzt in etwa einer Woche.

Wenn diese Beschreibung zutrifft, ist das Interessante nicht, dass eine KI Kernel-Code schreiben kann. Modelle tun das schon seit einer Weile. Das Interessante ist die Richtung der Schleife. Wenn eine KI hilft, das nächste Modell schneller zu machen, und dieses schnellere Modell hilft, das darauffolgende zu machen, dann verstärkt sich die Verbesserung innerhalb des Forschungsprozesses, statt auf der nutzerseitigen Ebene zu bleiben.

Warum das anders ist als Code zu schreiben

Die Trainingsschleife zu automatisieren ist nicht dasselbe wie eine Programmieraufgabe zu automatisieren, und der Unterschied ist es wert, präzise benannt zu werden. Eine Funktion für eine Anwendung zu schreiben, hat ein bekanntes Ziel: Die Funktion funktioniert oder eben nicht. Einen Trainingslauf zu optimieren, hat ein offenes Ziel. Das System muss Änderungen finden, die das Training schneller oder günstiger machen, ohne das Modell zu verschlechtern, und es muss das in einem Suchraum tun, in dem die meisten Änderungen die Dinge verschlechtern.

Der berichtete Workflow legt nahe, dass der schwierige Teil eingegrenzt wurde. Ein Mensch liefert ein gutes Beispiel für eine Optimierung, die die Form des Problems definiert. Die KI überträgt diese Form auf andere Teile der Codebasis. Das ist eine echte Fähigkeit, und sie ist zugleich begrenzt, weil der Mensch immer noch entscheidet, was als vielversprechende Richtung gilt.

An dieser Grenze wird die Behauptung interessant. Eine bekannte Optimierung über eine Codebasis hinweg zu replizieren, ist Arbeit, die ein starkes Modell heute erledigen kann. Eine Optimierung zu entdecken, die noch niemand gefunden hat, ist eine andere Aufgabe, und der Bericht behauptet nicht, dass das geschehen ist. Beschrieben wird die Eliminierung einer großen Klasse qualifizierter Arbeit aus der Trainingspipeline, was nicht dasselbe ist wie eine Pipeline, die sich selbst verbessert, auch wenn beides an den Rändern ineinander übergeht.

Die Behauptung zur Multi-Agenten-Zusammenarbeit ist schwerer zu bewerten. Dass Agenten ohne Menschen zusammenarbeiten, klingt nach einem großen Sprung, und es kann auch bedeuten, dass Agenten innerhalb eines von einem Menschen entworfenen Workflows strukturierte Ausgaben aneinander weitergeben. Beides ist mit dem Bericht vereinbar. Die Kluft dazwischen ist der Unterschied zwischen einer neuen Art von Forschungsorganisation und einem langen Automatisierungsskript.

Das Rekursionsargument, ehrlich formuliert

Rekursive Selbstverbesserung ist die Idee, dass eine Intelligenz, die sich selbst verbessern kann, darin schneller wird, sich selbst zu verbessern, was eine Kurve erzeugt, die zunächst flach aussieht und dann nicht mehr. Das Konzept gibt es, seit I. J. Good 1965 über eine Intelligenzexplosion schrieb, und es ist größtenteils Theorie geblieben, weil die Schleife immer wieder brach. Ein Modell, das Code schreibt, ist nützlich. Ein Modell, das den Prozess verbessert, der das nächste Modell hervorbringt, ist etwas anderes.

Was die berichtete Situation beachtenswert macht, ist, dass die Schleife einen natürlichen Maßstab hat. Trainingseffizienz lässt sich leicht quantifizieren. Wenn KI-gestützte Trainingsarbeit wirklich eine jahrelange Ingenieursleistung in eine Woche komprimiert, dann zeigt sich das daran, wie oft OpenAI neue Modelle ausliefert und wie viel Rechenleistung jedes einzelne kostet. Eine Forschungsschleife, die sich tatsächlich geschlossen hat, erzeugt eine beobachtbare Kadenz, und eine Forschungsschleife, die das nicht getan hat, erzeugt einen Pressezyklus.

Das ist der Test, den ich anwenden würde. Nicht, ob der Bericht wahr ist, sondern ob die nächsten zwölf Monate schnellere Modellveröffentlichungen bei ähnlichen Kosten zeigen. Wenn sich die Schleife schließt, ändert sich der Rhythmus der Veröffentlichungen. Wenn nicht, ist die Ankündigung nur eine weitere Behauptung über Fähigkeiten mit kurzer Halbwertszeit.

Warum die Kadenz mehr zählt als die Behauptung

Es gibt einen Grund, sich für den Zeitpunkt dieses Berichts zu interessieren und nicht nur für seinen Inhalt. Das Training von Frontier-Modellen ist an eine Wand gestoßen, und die Wand besteht aus Kosten. Ein einzelner großer Trainingslauf verbraucht heute Strom, Chips und Ingenieurszeit in einem Maßstab, in dem ein Effizienzgewinn von zehn Prozent mehr wert ist als ein neuer Benchmark-Rekord, weil er entscheidet, wie viele Experimente sich ein Labor im nächsten Quartal leisten kann.

Das verändert, was eine KI wert ist, die Trainingscode optimiert. Sie ist kein Schritt hin zu einer Maschine, die sich selbst im Science-Fiction-Sinn verbessert. Sie ist ein Multiplikator für das Teuerste, was ein Labor tut, und ein Multiplikator auf den teuersten Posten ist der Ort, an dem ein Forschungsvorteil entsteht. Zwei Labore mit demselben Compute-Budget, aber einer um zehn Prozent schnelleren Trainingsschleife, bleiben nicht lange gleichauf.

So gesehen geht es in dem Bericht weniger um Bewusstsein und mehr um Kapitaleffizienz. Die Schleife, auf die es ankommt, ist nicht das Modell, das sich selbst verbessert. Es ist das Modell, das die Kosten des nächsten Experiments senkt, wodurch das Labor mehr davon durchführen kann, was die gewöhnliche Art ist, wie jede Technologie schneller wird.

Der Teil, den niemand überprüfen kann

Das ehrliche Problem bei dieser Art von Bericht ist die Verifizierung. Es gibt kein Paper, keinen Benchmark, keine unabhängige Replikation. Die Behauptung kommt aus dem Inneren eines Unternehmens, das jeden Anreiz hat, geglaubt zu werden, und keine Verpflichtung, seine Arbeit offenzulegen. Das macht sie nicht falsch. Es bedeutet, dass das Vertrauen, das ein Außenstehender haben kann, durch die Quelle begrenzt ist.

Das ist nicht einzigartig bei OpenAI. Jedes Frontier-Labor erhebt heute Behauptungen über interne Automatisierung, die außerhalb öffentlicher Bewertung stehen, und die Berichterstattung, die sie ans Licht bringt, leistet nützliche Arbeit, selbst wenn die Zahlen nicht überprüft werden können. Das Muster ist vertraut: Eine Fähigkeit wird beschrieben, die Beschreibung ist plausibel, und der Beweis kommt irgendwann später – oder auch nicht.

Es gibt auch die Frage, wofür die Automatisierung da ist. Altman sagte Anfang September in einem Podcast, dass OpenAI definitiv humanoide Roboter bauen werde und dass das Gehirn der schwierige Teil sei, nicht der Körper. Ein Forschungsprozess, der sich selbst beschleunigt, und der Ehrgeiz, diese Intelligenz in physische Maschinen zu stecken, sind zwei Hälften derselben These. Die Trainingsschleife ist nicht das Produkt. Sie ist das, was das nächste Produkt möglich macht.

Was es bedeutet, wenn es sich bestätigt

Angenommen, die berichtete Kadenz ist real. Der direkte Effekt ist, dass ein Frontier-Labor pro Zeiteinheit mehr Ideen erkunden kann, weil die Kosten für das Testen einer Optimierung sinken. Das begünstigt Labore, die bereits über Rechenleistung und Daten in großem Maßstab verfügen, also dieselben Labore, die heute führen. Es ist ein Vorteil, der sich für die Etablierten kumulativ verstärkt, statt einem, der ein kleineres Team aufholen lässt.

Der indirekte Effekt betrifft Forschungsjobs. Die Arbeit, die der Bericht beschreibt – das Schreiben von Kernels und das Optimieren von Trainingscode –, ist genau die Art qualifizierter, aber gut spezifizierter Arbeit, die Automatisierung zuerst erreicht. Die Menschen, die diese Arbeit gemacht haben, rücken nach oben in Richtung der Definition dessen, was es wert ist, optimiert zu werden, also genau der Teil, den der Bericht weiterhin einem Menschen zuweist.

Diese Lesart ist weniger dramatisch als eine Intelligenzexplosion und nützlicher für die Planung. Die berichtete Nachricht ist nicht, dass OpenAI eine Maschine gebaut hat, die sich selbst verbessert. Sie ist, dass die Trainingspipeline still den Teil der Forschung absorbiert hat, der am einfachsten zu spezifizieren war, und die Ermessensentscheidungen dort gelassen hat, wo sie waren.