← Zurück zum Blog
Aica. 6 Min. Lesezeit

Wenn dein Agent jedes Mal dasselbe Skript abarbeitet, kompiliere das Skript

Veröffentlicht 13. Nov. 2026
Wenn dein Agent jedes Mal dasselbe Skript abarbeitet, kompiliere das Skript

Die meisten Agenten im Produktivbetrieb sind ein Sprachmodell, das eine Prozedur liest und die Schritte improvisiert. Jemand hat ein Dokument geschrieben, das erklärt, wie man eine Rückerstattung bearbeitet, ein Ticket einsortiert oder eine Rechnung abgleicht, und das Modell liest es zur Laufzeit und entscheidet an jeder Verzweigung, was als Nächstes passiert.

Ein Paper namens ReTrace stellt die naheliegende Anschlussfrage. Wenn sich die Prozedur zwischen den Läufen nicht ändert, warum entscheidet dann jedes Mal ein Modell über die Schritte?

Die Behauptung

Die berichteten Zahlen sind konkret genug, um über sie streiten zu können, und das ist ein gutes Zeichen. Bei 79 Produktionsprozeduren haben die von ReTrace erzeugten Workflows 93.8% der Aufgaben abgeschlossen. Die ursprünglichen Agenten kamen auf 96.8%. Die kompilierten Workflows kosten pro Aufgabe 24% weniger.

In einem anderen Benchmark ist der Zeitunterschied deutlich größer: 1.3 Sekunden gegenüber 170 Sekunden für den entsprechenden Agenten.

Zusammen gelesen zeigt sich die Form des Geschäfts. Man gibt drei Punkte Abschlussquote ab und bekommt eine Aufgabe, die ein Viertel weniger kostet und in etwa 1% der Wanduhrzeit fertig ist. Für einen Workflow, der 10,000 Mal am Tag läuft, ändert das, wofür der Workflow da ist.

Wie kompiliert wird

Der Mechanismus ist näher am Extrahieren eines Programms als am besseren Prompten.

Das System beobachtet einen Agenten bei einer Prozedur und zieht den Grund hinter jedem Tool-Aufruf heraus. Diese Gründe werden nicht als Prosa aufbewahrt. Bedingungen, die über Läufe hinweg wiederkehren, werden zu einem kompakten Regeldokument zusammengeführt, und dieses Dokument wird zu einem ausführbaren Workflow kompiliert: ein Graph aus Schritten, Verzweigungen und Tool-Aufrufen, der ohne Modell im Entscheidungspfad läuft.

Das Ergebnis: Das Urteil des Modells wird einmal zur Build-Zeit eingefangen und dann wiederverwendet. Zur Laufzeit läuft nur Code, der aus diesem Urteil abgeleitet wurde.

Wenn das nach dem Argument für Ahead-of-Time-Kompilierung gegenüber Interpretation klingt, dann weil es eines ist. Ein Interpreter ist flexibel und bezahlt die Flexibilität bei jeder Ausführung. Ein Compiler zahlt einmal und läuft dann schnell, und bricht, wenn die Eingabe nicht mehr zu dem passt, wogegen kompiliert wurde.

Wohin die drei Punkte gehen

Die ehrliche Frage ist, welche 3% der Aufgaben der kompilierte Workflow fallen lässt, und die Darstellung im Paper legt nahe, dass es die ungewöhnlichen sind.

Ein Prozedurdokument deckt den normalen Pfad ab und deutet die Ausnahmen nur an. Ein Agent, der es liest, kann improvisieren, wenn ein Fall nicht passt: eine Rückfrage stellen, ein anderes Tool probieren, bemerken, dass am Kundenkonto eine Markierung hängt, die alles ändert. Ein kompilierter Workflow tut genau das, wofür er kompiliert wurde, und wenn ein Fall außerhalb des Regeldokuments liegt, scheitert er oder macht mit voller Überzeugung etwas Falsches.

Deshalb sind die 24% Kosteneinsparung interessant und die 93.8% die Zahl, die über die Einführung entscheidet. In einem Workflow, in dem eine gescheiterte Aufgabe von einem Menschen für $10 pro Fall wiederholt wird, kann 24% weniger Rechenzeit bei 3% mehr Eskalationen ein Nettoverlust sein. In einem Workflow, in dem eine gescheiterte Aufgabe von einem nachgelagerten Validator abgefangen und automatisch wiederholt wird, sind dieselben Zahlen geschenktes Geld.

Das Paper scheint die Fehler nicht nach Typ aufzuschlüsseln, zumindest nicht in dem Material, das verfügbar ist. Genau diese Aufschlüsselung bräuchte ein Team, bevor es eine Prozedur in Produktion nimmt.

Was das über den Agent-Stack sagt

Die Sicht, die die letzten zwei Jahre bestimmt hat, lautet: Agenten werden besser, wenn Modelle besser werden. ReTrace zeigt auf eine andere Achse. Ein Teil der Arbeit von Agenten ist wirklich offen und braucht bei jedem Schritt ein Modell in der Schleife. Ein anderer Teil ist eine Prozedur mit festem Entscheidungsbaum, und dort ein Modell laufen zu lassen ist Token-Verschwendung, so wie ein Sprachmodell aufzurufen, um ein Datum zu parsen.

Der interessante Teil ist, dass die Grenze gefunden und nicht erklärt wird. Man muss nicht vorab entscheiden, welcher der eigenen Workflows prozedural ist. Man lässt den Agenten laufen, schaut zu, was er tut, und lässt den Extraktionsschritt sagen, ob das Entscheidungsmuster stabil genug zum Kompilieren ist.

Das hat eine organisatorische Folge. Der kompilierte Workflow ist ein lesbares Artefakt. Jemand kann ihn öffnen und die tatsächlichen Regeln sehen, auch die, die niemand dokumentiert hat, etwa "wenn die Rückerstattung über fünfhundert liegt, an einen Menschen weiterleiten", die nur existiert, weil der Agent sie aus Beispielen abgeleitet hat. Das ist eine bessere Prüfspur als ein Transkript, und es ist die Art von Ding, die eine Compliance-Abteilung abzeichnen kann.

Das Wartungsproblem, das niemand gelöst hat

Kompilierte Workflows haben einen Fehlermodus, den Agenten nicht haben: Drift. Ändert sich die Rückerstattungsrichtlinie, führt der kompilierte Graph weiter die alte aus, bis jemand neu kompiliert. Ändert sich das Tool-Schema, ruft der Workflow eine Funktion auf, die diese Argumente nicht mehr akzeptiert.

Ein Agent, der ein Prozedurdokument liest, hat dasselbe Problem in milder Form. Er liest das aktuelle Dokument, also wirkt eine Richtlinienänderung beim nächsten Lauf. Er liest auch das aktuelle Schema, also wird ein umbenannter Parameter behandelt. Man bezahlt diese Anpassungsfähigkeit bei jedem Aufruf, und ReTraces ganzes Argument ist, dass man zu viel bezahlt.

Die Lösung ist offensichtlich und unglamourös: bei Änderung neu kompilieren und das Regeldokument als versioniertes Artefakt behandeln, im selben Review-Prozess wie Code. Ob das Werkzeug das leicht macht, ist der Unterschied zwischen einem Forschungsergebnis und einem Produkt.

Solltest du es ausprobieren

Wenn du irgendetwas mit Volumen betreibst, das einer geschriebenen Prozedur folgt, lohnt sich die Rechnung auf den eigenen Daten. Nimm einen Workflow, logge ein paar hundert Läufe und schau, wie oft der Agent einen Pfad genommen hat, der nicht im Dokument stand. Ist die Antwort nahe null, bezahlst du ein Modell dafür, ein switch-Statement zu sein.

Ist die Antwort oft, ist deine Prozedur weniger Prozedur als gedacht, und das Kompilieren erzeugt einen Workflow, der bei den Fällen scheitert, die dein Geschäft wirklich betreffen.

Der nützlichste Beitrag des Papers ist vielleicht, dass es das messbar macht. Zwei Jahre lang ging es in der Debatte über Agenten um Fähigkeit, und Fähigkeit lässt sich schlecht bepreisen. ReTrace bepreist eine konkrete Entscheidung: wie viel das Urteil eines Modells pro Schritt wert ist, in Dollar und in Sekunden. Bei 79 Prozeduren kam als Antwort 24% weniger Rechenzeit und 99% weniger Latenz heraus, für drei Punkte Abschlussquote. Mit dieser Zahl kann ein Finanzteam arbeiten.

Das vollständige Paper steht auf arXiv, und die bisher verfügbare Berichterstattung bleibt dünn bei den Implementierungsdetails, also behandle die Zahlen als Behauptung und nicht als Rezept. Aber die Frage ist die richtige, und jedes Team, das Agenten in großem Maßstab betreibt, wird sie bald von jemandem mit einer Rechnung gestellt bekommen.

Verwandte Artikel