Cohere ha messo un tetto rigido a quanto può spendere un agente enterprise

Cohere ha presentato North 2 il 5 ottobre, una revisione profonda della piattaforma che vende per l'esecuzione di agenti AI all'interno delle grandi organizzazioni. La funzionalità di punta è un tetto alla spesa.

Gli amministratori possono ora monitorare l'uso dei token fino al singolo utente o agente, definire livelli di consumo per i gruppi e fissare un tetto a quanto ciascuno di essi può spendere. Gli avvisi scattano prima che venga raggiunto un limite. I controlli risiedono in North Admin, la console di gestione della piattaforma.

Sembra una funzionalità contabile. È più corretto leggerla come una dichiarazione sul perché i deployment di agenti enterprise si arenano. La tesi di Cohere è che le aziende sono state costrette a rinunciare a una di tre cose – sicurezza, capacità o controllo dei costi – per ottenere le altre due. Il nuovo rilascio è un tentativo di smettere di trattare il costo come la variabile sacrificale.

Il layer di orchestrazione è l'altra metà

I tetti di spesa contano per ciò che vi sta sopra.

North 2 sostituisce il sistema di orchestrazione che esegue il lavoro multi-step degli agenti. La nuova versione porta a termine un compito in autonomia e coinvolge una persona solo per i passaggi che richiedono un'approvazione, invece di chiedere il via libera a ogni passaggio. Gli agenti creati da un singolo prompt possono essere condivisi in tutta l'azienda, così un workflow messo insieme da un team non deve essere ricostruito da un altro. La memoria persiste tra una sessione e l'altra. C'è una funzionalità di skills per impacchettare la logica che un agente richiama ripetutamente, e librerie condivise per i documenti a cui ogni agente dovrebbe poter accedere.

Da una richiesta in linguaggio naturale, la piattaforma può produrre una presentazione, una dashboard o un'applicazione leggera che l'utente prototipa direttamente nella finestra di chat. Per i processi ricorrenti ci sono template predefiniti e un builder di workflow drag-and-drop con prestazioni dichiarate.

La libreria di connettori copre Slack, GitHub, SharePoint e OneDrive, con aggiunte previste per fornitori di dati finanziari tra cui PitchBook, S&P Global e FactSet. North è disponibile in generale da agosto 2025, e Cohere afferma che un anno di deployment in produzione nel settore finanziario e nel settore pubblico ha plasmato ciò che è confluito nell'aggiornamento.

Perché i controlli di spesa sono la parte interessante

Un agente che gira senza supervisione è un agente che può far salire il conto senza supervisione. Questa è la realtà operativa che ha tenuto molti deployment enterprise in fase di pilot.

Un ciclo di agente multi-step effettua molte chiamate al modello. Alcune di queste chiamate sono classificazioni economiche. Altre sono passaggi di ragionamento costosi. Senza una contabilità per agente, il costo di un singolo workflow è invisibile fino all'arrivo della fattura, e a quel punto nessuno riesce ad attribuirlo alla decisione che l'ha causato.

I controlli di Cohere affrontano direttamente questo problema. Il monitoraggio per utente e per agente fornisce a chi opera i dati per rispondere a quali workflow valgano il loro costo. I livelli di consumo permettono a un'azienda di assegnare a un agente un budget invece di un permesso. I tetti trasformano un impegno illimitato in un impegno circoscritto.

C'è un secondo effetto che riguarda meno il denaro. Un tetto all'uso dei token è anche un tetto a quanto un agente può sbagliare prima che qualcuno intervenga. Lo stesso meccanismo che ferma un conto fuori controllo ferma un ciclo fuori controllo, il che rende il limite di spesa tanto un controllo di sicurezza quanto un controllo finanziario.

Model-agnostic come posizione negoziale

North 2 consente a un amministratore di assegnare modelli ai team, inclusi modelli che il cliente porta da fuori Cohere. Questo conta in fase di acquisto, dove l'alternativa è una decisione che vincola un reparto al listino di un unico fornitore.

Cohere fa leva sul proprio lavoro con Nvidia per far quadrare i conti, sostenendo che i suoi modelli producono più token al secondo per nodo su hardware Blackwell e Hopper. Kari Briski, vicepresidente del generative AI di Nvidia, ha descritto il risultato come più token a meno.

I controlli di sicurezza si trovano nella stessa console. È possibile applicare guardrail ai singoli agenti. Lo screening copre le informazioni personalmente identificabili nei prompt e nelle risposte, e i tentativi di prompt injection. Le policy di autonomia confinano ogni agente alle azioni che è autorizzato a compiere. North gira on-premises o nel virtual private cloud del cliente, incluse installazioni air-gapped per le organizzazioni che non ammettono alcuna connessione esterna.

I clienti mostrano a cosa serve il prodotto

L'unità Bell Cyber di Bell Canada usa North all'interno delle proprie security operations. Jawed Ahmad, chief technology and AI officer dell'unità, ha dichiarato che la piattaforma consente di eseguire AI agentica con i requisiti di controllo e sovranità che i suoi clienti richiedono già integrati. LG CNS in Corea del Sud usa North internamente e lo rivende. Radical Ventures, uno dei primi investitori di Cohere, ha costruito un'automazione che prepara il briefing letto dal team prima di una call con un fondatore, sostituendo ore di raccolta manuale di contesto.

Questi tre esempi condividono una forma. Ognuno è un workflow già esistente, presidiato da persone, con un costo noto e un rischio noto. L'agente viene inserito in un processo consolidato invece di inventarne uno, ed è qui che i tetti di spesa diventano utilizzabili. Non puoi mettere a budget un agente che fa qualcosa di nuovo. Puoi mettere a budget un agente che fa ciò che un team già fa.

Perché il rilascio è arrivato tre settimane dopo una fusione

North 2 arriva meno di tre settimane dopo che Cohere ha firmato un accordo di fusione con la tedesca Aleph Alpha, un'operazione che mantiene il nome Cohere sulla società combinata. Kolibri di Aleph Alpha, un modello open-weight da 78 miliardi di parametri messo a punto per tedesco e inglese, punta allo stesso acquirente attento alla sovranità che North sta corteggiando.

Le due mosse si leggono come un unico argomento. Aleph Alpha fornisce modelli che possono essere addestrati ed eseguiti in una giurisdizione specifica e messi a punto per una lingua specifica. North 2 fornisce la piattaforma su cui quei modelli girano, con la contabilità dei costi e la gestione dei permessi di cui un acquirente regolamentato ha bisogno prima di implementare qualsiasi cosa. Nessuna delle due metà è sufficiente da sola, ed è la fusione a rendere vendibile la combinazione.

Questo spiega l'enfasi sul deployment on-premises e air-gapped. I clienti a cui importa di più dove risiedono i loro dati sono quelli che non possono usare una piattaforma di agenti puramente cloud-hosted, e sono anche quelli con il budget per pagare un deployment separato. La lista dei clienti, un'unità di sicurezza canadese e un'azienda coreana di servizi IT, corrisponde al modello.

Cosa non risolvono i controlli

Un tetto di spesa è uno strumento spuntato, e ci sono cose che non riesce a vedere.

Il problema più difficile nella contabilità dei costi degli agenti è l'attribuzione. Se tre agenti condividono una libreria di documenti, un pacchetto di skills e un endpoint del modello, e uno di loro esegue un workflow che costa mille dollari, il tetto scatta sull'agente che ha effettuato le chiamate. Se quell'agente abbia causato il costo o si sia limitato a ereditarlo è una questione separata a cui nessun contatore per agente risponde.

C'è anche la questione di cosa faccia un utente quando il tetto viene raggiunto. Un agente che si ferma a metà workflow lascia il lavoro in uno stato sconosciuto, e un sistema che riprende dopo che il limite è stato revocato deve riconciliare ciò che è accaduto nel frattempo. Cohere non ha descritto come North 2 gestisca questo aspetto, ed è il dettaglio operativo che determina se il controllo sia utilizzabile giorno per giorno.

L'affermazione più verificabile è che un agente con un budget abbia più probabilità di essere implementato di uno senza. È su questo che North 2 scommette, e i prossimi dodici mesi di deployment enterprise diranno se la scommessa era giusta.

Accanto a cosa si colloca il rilascio

North 2 arriva meno di tre settimane dopo che Cohere ha firmato un accordo di fusione con la tedesca Aleph Alpha, un'operazione che mantiene il nome Cohere sulla società combinata. Kolibri di Aleph Alpha, un modello open-weight da 78 miliardi di parametri messo a punto per tedesco e inglese, punta allo stesso acquirente attento alla sovranità che North sta corteggiando.

Questo è il mercato per cui North 2 è costruito. Non l'azienda che vuole l'agente più capace, ma quella che deve giustificare l'agente a un revisore. Controllo dei costi, permessi per agente e deployment on-premises sono le funzionalità che permettono di avere quella conversazione.

La questione irrisolta è se i controlli reggano nell'uso reale. Un tetto ai token vale quanto la contabilità che ci sta dietro, e attribuire i costi tra librerie condivise, agenti condivisi e contesto condiviso non è un problema risolto. La risposta di Cohere è che gli amministratori possono vedere l'utilizzo a livello di utente e di agente, il che è il punto di partenza necessario, non il prodotto finito.

L'affermazione più verificabile è che un agente con un budget abbia più probabilità di essere implementato di uno senza. È su questo che North 2 scommette, e i prossimi dodici mesi di deployment enterprise diranno se la scommessa era giusta.