Cohere setzt eine harte Obergrenze für das, was ein Enterprise-Agent ausgeben darf

Cohere stellte am 5. Oktober North 2 vor, eine Überarbeitung der Plattform, die das Unternehmen für den Betrieb von KI-Agenten in großen Organisationen verkauft. Das zentrale Merkmal ist eine Obergrenze für Ausgaben.

Administratoren können jetzt die Token-Nutzung bis auf einzelne Benutzer oder Agenten herunter verfolgen, Verbrauchsstufen für Gruppen definieren und eine Obergrenze dafür festlegen, was jeder von ihnen ausgeben darf. Warnungen werden ausgelöst, bevor ein Limit erreicht wird. Die Steuerungselemente befinden sich in North Admin, der Managementkonsole der Plattform.

Das klingt nach einer Buchhaltungsfunktion. Besser versteht man es als Aussage darüber, warum Enterprise-Agent-Bereitstellungen ins Stocken geraten. Coheres Darstellung zufolge waren Unternehmen gezwungen, eines von drei Dingen aufzugeben – Sicherheit, Leistungsfähigkeit oder Kostenkontrolle –, um die anderen beiden zu bekommen. Die neue Version ist ein Versuch, damit aufzuhören, die Kosten als das Opfer zu behandeln.

Die Orchestrierungsschicht ist die andere Hälfte

Die Ausgabenobergrenzen sind wichtig wegen dem, was auf ihnen aufbaut.

North 2 ersetzt das Orchestrierungssystem, das mehrstufige Agentenarbeit ausführt. Die neue Version arbeitet eine Aufgabe eigenständig durch und zieht einen Menschen für die Schritte hinzu, die eine Freigabe erfordern, anstatt bei jedem Schritt eine Genehmigung anzufordern. Agenten, die aus einem einzigen Prompt erstellt wurden, können unternehmensweit geteilt werden, sodass ein Workflow, den ein Team zusammengestellt hat, nicht von einem anderen neu erstellt werden muss. Der Speicher bleibt zwischen Sitzungen erhalten. Es gibt eine Skills-Funktion zum Verpacken von Logik, die ein Agent wiederholt aufruft, und gemeinsam genutzte Bibliotheken für Dokumente, auf die jeder Agent zugreifen können sollte.

Aus einer natürlichsprachlichen Anfrage kann die Plattform eine Präsentation, ein Dashboard oder eine leichtgewichtige Anwendung erzeugen, die ein Benutzer im Chatfenster prototypisiert. Für wiederkehrende Prozesse gibt es vorgefertigte Vorlagen und einen Drag-and-Drop-Workflow-Builder mit berichteter Performance.

Die Connector-Bibliothek deckt Slack, GitHub, SharePoint und OneDrive ab, mit geplanten Ergänzungen für Finanzdatenanbieter wie PitchBook, S&P Global und FactSet. North ist seit August 2025 allgemein verfügbar, und Cohere sagt, dass ein Jahr Produktivbereitstellungen im Finanzsektor und im öffentlichen Sektor geprägt hat, was in das Upgrade eingeflossen ist.

Warum die Ausgabenkontrollen der interessante Teil sind

Ein Agent, der unbeaufsichtigt läuft, ist ein Agent, der unbeaufsichtigt eine Rechnung hochtreiben kann. Das ist die operative Realität, die viele Enterprise-Bereitstellungen im Pilotstadium gehalten hat.

Eine mehrstufige Agentenschleife führt viele Modellaufrufe durch. Einige dieser Aufrufe sind günstige Klassifizierungen. Andere sind teure Reasoning-Durchläufe. Ohne eine Abrechnung pro Agent ist der Preis für einen einzelnen Workflow unsichtbar, bis die Rechnung eintrifft, und dann kann niemand ihn der Entscheidung zuschreiben, die ihn verursacht hat.

Coheres Kontrollen adressieren das direkt. Die Verfolgung pro Benutzer und pro Agent gibt einem Betreiber die Daten, um zu beantworten, welche Workflows ihre Kosten wert sind. Verbrauchsstufen ermöglichen es einem Unternehmen, einem Agenten ein Budget statt einer Berechtigung zu geben. Obergrenzen verwandeln eine unbegrenzte Verpflichtung in eine begrenzte.

Es gibt einen zweiten Effekt, der weniger mit Geld zu tun hat. Eine Obergrenze für die Token-Nutzung ist auch eine Obergrenze dafür, wie weit ein Agent schiefgehen kann, bevor jemand eingreift. Derselbe Mechanismus, der eine außer Kontrolle geratene Rechnung stoppt, stoppt auch eine außer Kontrolle geratene Schleife, was das Ausgabenlimit zu einer Sicherheitskontrolle ebenso wie zu einer finanziellen macht.

Modellagnostisch als Verhandlungsposition

North 2 ermöglicht es einem Administrator, Modelle Teams zuzuweisen, einschließlich Modellen, die der Kunde von außerhalb Coheres mitbringt. Das ist in der Beschaffung wichtig, wo die Alternative eine Entscheidung ist, die eine Abteilung an die Preisgestaltung eines Anbieters bindet.

Cohere stützt sich auf seine Arbeit mit Nvidia, um die Wirtschaftlichkeit zu gewährleisten, und behauptet, dass seine Modelle auf Blackwell- und Hopper-Hardware mehr Token pro Sekunde pro Knoten erzeugen. Kari Briski, Vizepräsidentin für generative KI bei Nvidia, beschrieb das Ergebnis als mehr Token für weniger.

Sicherheitskontrollen befinden sich in derselben Konsole. Guardrails können auf einzelne Agenten angewendet werden. Die Überprüfung deckt personenbezogene Daten in Prompts und Antworten sowie versuchte Prompt-Injection ab. Autonomie-Richtlinien beschränken jeden Agenten auf Aktionen, zu denen er autorisiert ist. North läuft vor Ort oder in der virtuellen privaten Cloud eines Kunden, einschließlich air-gapped Installationen für Organisationen, die keine externe Verbindung zulassen.

Die Kunden zeigen, wofür das Produkt gedacht ist

Die Einheit Bell Cyber von Bell Canada betreibt North innerhalb ihrer eigenen Sicherheitsabläufe. Jawed Ahmad, Chief Technology and AI Officer der Einheit, sagte, die Plattform ermögliche es, agentische KI mit den Kontroll- und Souveränitätsanforderungen zu betreiben, die seine Kunden verlangen und die bereits integriert seien. LG CNS in Südkorea betreibt North intern und verkauft es weiter. Radical Ventures, ein früher Cohere-Investor, baute eine Automatisierung, die das Briefing vorbereitet, das sein Team vor einem Gründer-Call liest, und damit stundenlange manuelle Kontextsammlung ersetzt.

Diese drei Beispiele haben eine gemeinsame Form. Jedes ist ein Workflow, der bereits existierte, mit Personen besetzt, mit bekannten Kosten und einem bekannten Risiko. Der Agent wird in einen etablierten Prozess eingefügt, anstatt einen zu erfinden, und dort werden die Ausgabenobergrenzen nutzbar. Man kann keinen Agenten budgetieren, der etwas Neues tut. Man kann einen Agenten budgetieren, der tut, was ein Team bereits tut.

Warum die Veröffentlichung drei Wochen nach einer Fusion erfolgte

North 2 kommt weniger als drei Wochen, nachdem Cohere eine Fusionsvereinbarung mit dem deutschen Unternehmen Aleph Alpha unterzeichnet hat, ein Deal, der den Namen Cohere beim kombinierten Unternehmen belässt. Aleph Alphas Kolibri, ein Open-Weight-Modell mit 78 Milliarden Parametern, das für Deutsch und Englisch optimiert ist, zielt auf denselben souveränitätsbewussten Käufer, den North umwirbt.

Die beiden Schritte lesen sich als ein einziges Argument. Aleph Alpha liefert Modelle, die in einer bestimmten Gerichtsbarkeit trainiert und betrieben und für eine bestimmte Sprache optimiert werden können. North 2 liefert die Plattform, auf der diese Modelle laufen, mit der Kostenabrechnung und Berechtigungsverwaltung, die ein regulierter Käufer benötigt, bevor er irgendetwas einsetzt. Keine der beiden Hälften ist für sich ausreichend, und die Fusion ist es, die die Kombination verkaufbar macht.

Das erklärt die Betonung von On-Premises- und Air-Gapped-Bereitstellung. Die Kunden, denen am meisten daran gelegen ist, wo ihre Daten liegen, sind diejenigen, die keine rein cloud-gehostete Agentenplattform nutzen können, und sie sind auch diejenigen mit dem Budget, um für eine separate Bereitstellung zu zahlen. Die Kundenliste – eine kanadische Sicherheitseinheit und ein koreanisches IT-Dienstleistungsunternehmen – passt ins Muster.

Was die Kontrollen nicht lösen

Eine Ausgabenobergrenze ist ein grobes Instrument, und es gibt Dinge, die es nicht sehen kann.

Das schwierigste Problem in der Kostenrechnung für Agenten ist die Zuordnung. Wenn drei Agenten eine Dokumentbibliothek, ein Skills-Paket und einen Modellendpunkt gemeinsam nutzen und einer von ihnen einen Workflow ausführt, der tausend Dollar kostet, dann greift die Obergrenze bei dem Agenten, der die Aufrufe getätigt hat. Ob dieser Agent die Kosten verursacht oder lediglich geerbt hat, ist eine separate Frage, die kein Zähler pro Agent beantwortet.

Es gibt auch die Frage, was ein Benutzer tut, wenn die Obergrenze erreicht ist. Ein Agent, der mitten im Workflow stoppt, hinterlässt Arbeit in einem unbekannten Zustand, und ein System, das nach Aufhebung eines Limits fortgesetzt wird, muss abgleichen, was in der Zwischenzeit passiert ist. Cohere hat nicht beschrieben, wie North 2 damit umgeht, und es ist das operative Detail, das bestimmt, ob die Kontrolle im Alltag nutzbar ist.

Die besser überprüfbare Behauptung ist, dass ein Agent mit Budget eher eingesetzt wird als ein Agent ohne. Darauf setzt North 2, und die nächsten zwölf Monate der Enterprise-Bereitstellungen werden zeigen, ob die Wette richtig war.

Was neben dem Release steht

North 2 kommt weniger als drei Wochen, nachdem Cohere eine Fusionsvereinbarung mit dem deutschen Unternehmen Aleph Alpha unterzeichnet hat, ein Deal, der den Namen Cohere beim kombinierten Unternehmen belässt. Aleph Alphas Kolibri, ein Open-Weight-Modell mit 78 Milliarden Parametern, das für Deutsch und Englisch optimiert ist, zielt auf denselben souveränitätsbewussten Käufer, den North umwirbt.

Das ist der Markt, für den North 2 gebaut ist. Nicht das Unternehmen, das den leistungsfähigsten Agenten will, sondern dasjenige, das den Agenten gegenüber einem Prüfer rechtfertigen muss. Kostenkontrolle, Berechtigungen pro Agent und On-Premises-Bereitstellung sind die Funktionen, die dieses Gespräch ermöglichen.

Die ungelöste Frage ist, ob die Kontrollen im Einsatz standhalten. Eine Token-Obergrenze ist nur so gut wie die Abrechnung dahinter, und Kosten über gemeinsam genutzte Bibliotheken, gemeinsam genutzte Agenten und gemeinsam genutzten Kontext zuzuordnen, ist kein gelöstes Problem. Coheres Antwort ist, dass Administratoren die Nutzung auf Benutzer- und Agentenebene sehen können, was der notwendige Ausgangspunkt und nicht das fertige Produkt ist.

Die besser überprüfbare Behauptung ist, dass ein Agent mit Budget eher eingesetzt wird als ein Agent ohne. Darauf setzt North 2, und die nächsten zwölf Monate der Enterprise-Bereitstellungen werden zeigen, ob die Wette richtig war.