← 返回博客
Ai预计阅读 12 分钟

Cohere 为企业智能体允许花费的金额设定了硬性上限

发布于 2026年10月6日
Cohere 为企业智能体允许花费的金额设定了硬性上限

Cohere 于 10 月 5 日发布了 North 2,这是对其用于在大型组织内部运行 AI 智能体的所售平台的全面改造。最引人注目的功能是支出上限。

管理员现在可以将 token 用量追踪到单个用户或智能体,为群组定义消费层级,并为其中任何一方设定允许支出的上限。在达到限额之前会触发警报。这些控制功能位于平台的管理控制台 North Admin 中。

一个空白的磨砂玻璃旋钮,周围环绕着青绿色光线,镶嵌在哑光黑色阳极氧化面板中

这听起来像是一项会计功能。但更好的理解方式是,它是在说明企业智能体部署为何停滞。Cohere 的说法是,企业一直被迫在安全性、能力或成本控制这三者中放弃一项,才能得到另外两项。新版本试图不再把成本当作被牺牲的那一项。

编排层是另一半

支出上限之所以重要,是因为它们之上还承载着别的东西。

North 2 替换了运行多步骤智能体工作的编排系统。新版本可以自行推进一项任务,并在需要审批的步骤上引入人工,而不是每一步都请求批准。由单个提示构建的智能体可以在整个公司内共享,因此一个团队搭建的工作流不必由另一个团队重新构建。记忆会在会话之间持久保留。平台提供技能功能,用于打包智能体反复调用的逻辑,还提供共享库,用于存放每个智能体都应能访问的文档。

根据自然语言请求,平台可以生成幻灯片、仪表板,或用户在聊天窗口中制作原型的轻量级应用。对于重复性流程,平台提供预构建模板和拖拽式工作流构建器,并会报告性能表现。

连接器库覆盖 Slack、GitHub、SharePoint 和 OneDrive,并计划增加面向金融数据提供商的连接器,包括 PitchBook、S&P Global 和 FactSet。North 自 2025 年 8 月起全面可用,Cohere 表示,在金融和公共部门一年的生产部署塑造了此次升级的内容。

为什么支出控制才是有趣的部分

无人值守运行的智能体,也可能在无人值守的情况下推高账单。正是这一运营现实,让许多企业部署停留在试点阶段。

多步骤智能体循环会进行大量模型调用。其中一些是廉价的分类调用,一些则是昂贵的推理过程。如果没有按智能体核算,单个工作流的成本在账单到来之前都是不可见的,而到那时,没人能将其归因于导致成本的那项决策。

Cohere 的控制功能直接解决了这一点。按用户和按智能体的追踪为运营人员提供数据,以回答哪些工作流值得其成本。消费层级让公司可以给智能体一个预算,而不是一项许可。上限将无限制的承诺转变为有边界的承诺。

还有第二种影响,与金钱关系较小。对 token 用量的上限,也是对智能体在有人介入前能走多远的限制。阻止账单失控的同一机制,也阻止了循环失控,这使得支出限额既是一项财务控制,也同样是一项安全控制。

模型无关是一种谈判立场

North 2 允许管理员为团队分配模型,包括客户从 Cohere 之外引入的模型。这在采购中很重要,因为另一种选择会让某个部门被锁定在一家供应商的定价上。

Cohere 正借助与 Nvidia 的合作来让经济账算得过来,声称其模型在 Blackwell 和 Hopper 硬件上每节点每秒可产生更多 token。Nvidia 生成式 AI 副总裁 Kari Briski 将这一结果概括为“用更少的成本获得更多 token”。

安全控制位于同一个控制台中。护栏可以应用到单个智能体。筛查覆盖提示词和响应中的个人身份信息,以及试图进行提示注入的行为。自主性策略将每个智能体限制在其被授权执行的操作范围内。North 可在本地运行,也可在客户的虚拟私有云中运行,包括为不允许任何外部连接的组织提供气隙隔离部署。

客户展示了这款产品的用途

加拿大贝尔公司旗下的 Bell Cyber 部门在其自身安全运营中运行 North。该部门首席技术与 AI 官 Jawed Ahmad 表示,该平台让其能够运行智能体 AI,并且客户所要求的控制与主权要求已内建其中。韩国的 LG CNS 在内部运行 North 并转售该产品。Cohere 的早期投资者 Radical Ventures 构建了一项自动化流程,用于准备其团队在创始人通话前阅读的简报,取代了数小时的手动背景信息收集工作。

这三个例子有共同的形态。每一个都是已经存在、由人员承担、具有已知成本和已知风险的工作流。智能体被嵌入既有流程,而不是凭空创造流程,这正是支出上限变得可用的地方。你无法为一个做全新事情的智能体做预算。你可以为一个做团队已经在做的事情的智能体做预算。

为什么这次发布在合并三周后到来

North 2 在 Cohere 与德国 Aleph Alpha 签署合并协议后不到三周推出,该交易使合并后的公司保留 Cohere 名称。Aleph Alpha 的 Kolibri 是一个 780 亿参数的开放权重模型,针对德语和英语进行了调优,指向的正是 North 所争取的同一类重视主权的买家。

这两项举措读起来像同一个论证。Aleph Alpha 提供可在特定司法管辖区内训练和运行、并针对特定语言调优的模型。North 2 提供这些模型所运行的平台,并具备受监管买家在部署任何东西之前所需的成本核算和权限管理。任何一半单独都不足够,而合并让这一组合变得可销售。

这解释了为何强调本地部署和气隙隔离部署。最关心数据存放在哪里的客户,正是那些无法使用纯云托管智能体平台的客户,而他们也是有预算为独立部署付费的客户。客户名单——一个加拿大安全业务部门和一个韩国 IT 服务公司——符合这一模式。

这些控制功能无法解决的问题

支出上限是一种钝器,有些东西它看不到。

智能体成本核算中最难的问题是归因。如果三个智能体共享一个文档库、一个技能包和一个模型端点,而其中一个运行了花费一千美元的工作流,上限会在发起调用的那个智能体上触发。该智能体是造成了成本,还是仅仅继承了成本,这是一个单独的、没有任何按智能体计量能回答的问题。

还有一个问题是,当达到上限时用户会做什么。一个在工作流中途停止的智能体会让工作处于未知状态,而系统在限额解除后恢复时,必须对期间发生的事情进行核对。Cohere 尚未说明 North 2 如何处理这一点,而这是决定该控制能否日常使用的运营细节。

更可检验的说法是,有预算的智能体比没有预算的智能体更有可能被部署。这正是 North 2 押注的方向,而未来十二个月的企业部署将说明这一赌注是否正确。

这次发布与什么并列

North 2 在 Cohere 与德国 Aleph Alpha 签署合并协议后不到三周推出,该交易使合并后的公司保留 Cohere 名称。Aleph Alpha 的 Kolibri 是一个 780 亿参数的开放权重模型,针对德语和英语进行了调优,指向的正是 North 所争取的同一类重视主权的买家。

这就是 North 2 所面向的市场。不是想要最强智能体的公司,而是必须向审计人员证明智能体合理性的公司。成本控制、按智能体权限和本地部署,正是让这种对话得以发生的功能。

尚未解决的问题是,这些控制在实际使用中是否站得住脚。Token 上限的好坏取决于其背后的核算,而跨共享库、共享智能体和共享上下文进行成本归因,并不是一个已解决的问题。Cohere 的答案是,管理员可以在用户和智能体层面查看使用情况,这是必要的起点,而不是最终成品。

更可检验的说法是,有预算的智能体比没有预算的智能体更有可能被部署。这正是 North 2 押注的方向,而未来十二个月的企业部署将说明这一赌注是否正确。

相关文章