IBM Bob zieht hinter die Firewall – und genau darum geht es

IBM bietet seine agentische Softwareentwicklungsplattform IBM Bob jetzt auch als selbst gehostete Variante an. On-Premises-, Private-Cloud-, Sovereign-Cloud- und Air-Gapped-Deployments stehen alle zur Auswahl. Kunden wählen ihre eigene Modellkonfiguration, behalten Quellcode und Anwendungskontext im eigenen Netzwerk und behalten die Kontrolle über Datenresidenz und Sicherheitsrichtlinien.

Das klingt wie eine Fußnote zum Deployment. Es ist eher eine These darüber, wer überhaupt Coding-Agenten einsetzen darf.

Die Lücke, die Self-Hosting schließt

Coding-Agenten haben sich schnell entwickelt. Sie lesen ein Repository, schlagen Änderungen vor, führen Tests aus und öffnen Pull Requests. Für ein Start-up ist es ein Dienstagnachmittag, einen in einen Cloud-Dienst einzubinden. Für einen Verteidigungsauftragnehmer, eine Bank oder einen Klinikverbund scheitert derselbe Schritt bereits bei der ersten rechtlichen Prüfung. Der Quellcode darf das Gebäude nicht verlassen. Interner Kontext – das unordentliche institutionelle Wissen, das eine Codebasis verständlich macht – darf ebenfalls nicht hinaus. Air-Gapped-Umgebungen haben designbedingt keinen Cloud-Pfad.

Das lässt einen großen Teil der Wirtschaft das Agenten-Zeitalter hinter Glas beobachten. IBM verkauft an diesen Teil, und das Unternehmen ist nicht der Erste. Die Kategorie ist derzeit klein, vor allem weil selbst gehostete Agenten Modellgewichte, Hardware und eine Orchestrierungsschicht benötigen, die normalerweise ein Cloud-Anbieter bereitstellt. Wer die Infrastruktur löst, bekommt eine Kundschaft, die die API-First-Labore nicht erreichen können.

Warum das schwieriger ist, als es aussieht

Einen Agenten versteht man leichter als Schleife denn als einzelne Sache: planen, handeln, beobachten, anpassen. In der Cloud sind die Tools, die er aufruft, Dienste, und die Fehlermodi sind das Problem von jemand anderem. Hinter einer Firewall muss der Agent dieselben Repositories, dieselben Ticket-Tracker, dieselben Build-Systeme erreichen – nur dass das Netzwerk jetzt segmentiert ist, die Zugangsdaten nach Plan rotiert werden und die Hälfte der Dienste zuletzt aktualisiert wurde, bevor das Wort „Agent“ überhaupt etwas bedeutete.

IBMs Verkaufsargument stützt sich darauf, dass das Unternehmen bereits in diese Umgebungen verkauft. Seine Kunden betreiben Mainframes und Legacy-Systeme, die sonst niemand anfassen will. Einen Agenten dort zum Laufen zu bringen, ist unattraktiv, langsam und genau die Art von Arbeit, die einen Burggraben schafft.

Es gibt auch eine Governance-Perspektive, und sie ist die, die immer wieder auftaucht. Ein selbst gehosteter Agent erzeugt Logs, die Ihnen gehören. Bei einem regulierten Audit können Sie genau zeigen, welches Modell lief, was es gelesen und was es geändert hat. In einem Cloud-Setup verteilen sich diese Nachweise auf die Konsole eines Anbieters und einen Servicevertrag. Wenn etwas schiefgeht, ist der Unterschied zwischen „Wir haben die Logs“ und „Wir haben die Logs angefordert“ der Unterschied zwischen einem abgeschlossenen Vorfall und einem Quartal voller Discovery.

Die Modellfrage darunter

Einen Agenten selbst zu hosten bedeutet, ein Modell selbst zu hosten – oder zumindest eines zu wählen, das man auf eigener Hardware betreiben kann. IBM lässt Kunden unterstützte Konfigurationen auswählen, was in der Praxis eine Mischung aus Open-Weight-Modellen und IBMs eigenen Modellen bedeutet. Die Open-Weight-Optionen sind hier wichtig. Ein Modell der 70B-Klasse auf einem privaten Cluster ist langsamer und weniger leistungsfähig als das beste gehostete Modell. Es ist aber auch verfügbar, wenn das Netzwerk ausgefallen ist, wenn der Anbieter die Preise erhöht oder wenn der Anbieter entscheidet, dass Ihr Anwendungsfall gegen eine Richtlinie verstößt, die Sie nie gelesen haben.

Unternehmen haben diesen Kompromiss ein Jahrzehnt lang bei Datenbanken gemacht, und er funktioniert genauso: Sie akzeptieren eine Fähigkeitslücke im Austausch für Kontrolle und schließen die Lücke mit der Zeit, wenn die Hardware besser wird.

Die Wirtschaftlichkeit sieht hinter einer Firewall anders aus

Cloud-Coding-Agenten werden pro Token abgerechnet, was bedeutet, dass die Kosten damit skalieren, wie viel Code der Agent liest und schreibt. Für ein Start-up ist das ein planbarer Posten. Für ein großes Unternehmen, in dem ein einzelnes Repository Jahrzehnte an Historie enthalten kann und der Agent weit mehr Kontext aufnehmen muss, bevor er helfen kann, läuft der Zähler heiß.

Self-Hosting dreht das Modell um. Die Kosten werden zu Hardware und Betrieb, also zu Investitionsausgaben, die die Organisation ohnehin trägt. Eine Bank mit einem Rechenzentrum zahlt nicht mehr, wenn der Agent weitere Millionen Zeilen liest. Die Grenzkosten einer zusätzlichen Agentenaufgabe nähern sich dem Strom und der GPU-Zeit, und diese sind bereits bezahlt. Diese Asymmetrie ist der Grund, warum das Self-Hosting-Angebot verfängt, selbst wenn das Cloud-Produkt objektiv besser ist.

Es gibt allerdings einen Compliance-Aufwand, den das Marketing auslässt. Self-Hosting verlagert die Last von Patches, Monitoring und Modell-Updates auf den Kunden. Ein Cloud-Anbieter spielt einen Fix ein, und fertig. Ein On-Premises-Deployment muss das Upgrade planen, gegen interne Systeme testen und ein Change-Control-Board überstehen. Das Tool ist kontrollierbarer und aufwendiger, und dieser Kompromiss ist die ganze Geschichte der Unternehmenssoftware.

Der angrenzende Markt, der das tragfähig macht

Einen Agenten selbst zu hosten funktioniert nur, wenn es etwas gibt, das es wert ist, hinter der Mauer ausgeführt zu werden, und dieses Angebot ist gewachsen. Open-Weight-Modelle in der Leistungsklasse, die echte Coding-Arbeit erledigen kann, sind inzwischen verbreitet und werden von Laboren auf mehreren Kontinenten unter permissiven Lizenzen veröffentlicht. Das fehlende Puzzlestück war nie das Modell. Es war das Gerüst, das ein Modell in etwas verwandelt, an das ein Entwickler innerhalb eines kontrollierten Netzwerks delegieren kann.

Das ist die Schicht, die IBM verkauft. Das beste Modell zu trainieren, ist nicht das Ziel. Das Ziel ist, die Integration zu sein, die ein vorhandenes Modell an Orten nutzbar macht, an denen ein Cloud-Aufruf keine Option ist. Die Strategie ist das Spiegelbild der API-First-Labore. Sie treiben die Fähigkeiten nach außen und lassen jeden anbinden. IBM zieht die Fähigkeiten nach innen und lässt sie den Perimeter überstehen.

Für Käufer, die in diesem Perimeter feststecken, war die Wahl zwei Jahre lang unangenehm: die Agentenwelle aus der Ferne beobachten oder eine Sicherheitsregel brechen, um mitzumachen. Eine Self-Hosting-Option macht die Welle nicht kleiner. Sie macht sie nur erreichbar, was für eine regulierte Organisation dasselbe ist wie: sie real werden zu lassen.

Was zu beobachten ist

Demos sind nicht die ehrliche Frage beim selbst gehosteten agentischen Coding. Die ehrliche Frage ist, ob die Ergebnisse auf einer Codebasis mit fünfzehn Jahren technischer Schulden standhalten, geschrieben von Menschen, die das Unternehmen verlassen haben. Cloud-Agenten kämpfen damit ebenfalls. Der Unterschied ist, dass ein selbst gehosteter Agent nicht über Nacht von einem Anbieter verbessert werden kann, ohne dass der Kunde die Arbeit macht. Jeder Fortschritt muss vom eigenen Team des Kunden erarbeitet werden.

Das macht die Einführung langsamer und bindender, was IBM entgegenkommt. Das Unternehmen baut für Käufer, die Erfolg in Jahren messen, nicht in Sprints, und die lieber ein etwas schlechteres Tool besitzen, als ein besseres zu mieten, das sie nicht inspizieren können. Für einen Coding-Agenten-Markt, der zwei Jahre lang Benchmarks hinterhergejagt ist, ist das eine konservative Wette. Es ist zugleich eine Wette auf den Teil des Marktes, der bisher nicht bedient wurde.

Es gibt eine Version davon, die schlecht ausgeht. Selbst gehostetes Tooling hat den Ruf, einmal ausgeliefert zu werden und dann zu verkümmern, weil der Anbieter keinen wiederkehrenden Anreiz hat, es zu verbessern, und der Kunde keine Verhandlungsmacht, es zu verlangen. Wenn IBM Bob zu einem stabilen Produkt wird, das nie nennenswert besser wird, bekommen die Käufer, die es anzieht, genau das, worum sie gebeten haben – und weniger, als sie erhofft hatten. Die Alternative, bei der ein selbst gehosteter Agent sich nach einem vom Kunden kontrollierten Zeitplan verbessert, ist schwieriger zu betreiben und deutlich wertvoller. Welche davon IBM liefert, sollte man im kommenden Jahr beobachten.