百度给模型开了个交易所,还顺手给卖家打信用分

11月12日,百度在北京的年度大会上发布了一个在西方找不到明显对应的东西:一个受监管的模型token交易场所。名字叫词元所,字面意思就是token交易所。李彦宏在台上把类比说得毫不含糊:股票交易所把好公司聚到一起,让投资人找得到;词元所把好模型聚到一起,让买家找得到。这个类比把后面所有的产品设计都说清楚了。
它要解决的问题,任何通过中间商买过API的人都不陌生。李彦宏的说法很直白:今年前九个月,几乎每天都有新模型发布,有时候一天好几个。围绕这股洪水长出了一整条token转卖的作坊产业,按他的描述,这些转卖商对输出质量、服务稳定性、响应时间一概不负责,甚至连接口背后的模型是不是它宣传的那个都证明不了。买家付了钱,拿到的是一个黑盒,盒子里装的是什么全靠卖家自觉。
最后半句就是整个商业模式成立的理由。转卖商完全可以把你的请求转到更便宜的模型上,差价自己留下,只要输出质量没有明显掉下来,你根本发现不了。动机可以很平常,一次成本优化就够了。
两个功能,都指向信任
百度的答案分两块,这两块的名字值得仔细翻,因为论证就藏在名字里。中文叫验证和信用报告,换成更直白的说法就是审计与评级,两个词都在讲同一件事:把买家看不见的部分变成可查的记录。
第一块是验证。供应商要过三道检查:模型指纹比对、能力测试、性能与可用性测试。指纹在这里就是字面意思:去探测那个接口,把返回结果和参照模型的签名做比对,确认应答的东西就是被卖的东西。探针可以简单到一个固定提示词,也可以复杂到一整套行为特征。
第二块是信用报告。百度会定期抽检,并对实时调用做端到端监控,据此给每个供应商打一个信用评级。买家能看到评级,评级下调会触发通知。抽检是随机的,监控是连续的,两者叠起来才有一点威慑力。
这两样在技术上都不新鲜。用行为探针给模型做指纹是已知手法,监控可用性则是每个API网关的日常。新的地方在于把两者打包成市场的基础设施,并把评级当作产品属性公开挂出来。技术是老技术,制度是新制度。
上线一个月的数据
百度说,词元所在发布会之前一个月就已经开张,目前上架100多个供给资源,日均调用超过5000万次,日均token量超过7000亿。这三个数字放在一起,是目前唯一公开的规模参照。
这两个数字值得再看一眼,因为它们之间的比例有点怪。5000万次调用对7000亿token,平均下来每次调用约14000个token。这个均值很长,更接近文档处理或智能体循环,离聊天很远。要么业务结构里批量任务占了大头,要么调用数和token数用了不同的统计口径。百度在台上没有拆开讲,而这恰恰是外部最想验算的地方。
100个供给资源这个说法,模糊得很有意思。它可以是100家供应商,也可以是100个上架的模型,或者100个接口。在交易市场里这是三个差别很大的数,而这个差别恰好是买家最想搞清楚的。一家供应商能挂十个模型,一个模型也能有多个接入点,不同口径之间差出一个数量级并不难。
百度还给这次发布找了个具体的反派:token中转站,也就是那种在模型上加一道价、对返回结果不承担任何责任的转卖商。这个框架承担了很多工作。它把自己放在一个听众本来就不信任的市场里的老实中间人位置上,这比任何价格对比都更能卖货。价格战谁都会打,信任没法打折。
为什么这个问题适合用交易所解决
模型使用权已经变成一个金融产品。你先充值,再消耗,按单位计量,供应商可以在不改价格的前提下改掉底层商品的条款。这就是一个带着信息不对称的大宗商品市场,而信息不对称历来是交易所诞生的前提。只要买家分不清货的成色,定价就会朝最差的那一端滑。
交易所之所以存在,是因为两两之间的信任没法规模化。一件买之前难以检验的东西,一旦有了一百家卖家,你就需要标准合同、清算层,还需要一个人专门负责抓那种交货和评级不符的卖家。百度想当这个人,从中抽一笔。抽成是它的收入,也是它的动机问题。
和西方同类基础设施对比一下很有启发。OpenRouter做的是相邻的事:一把钥匙开多个模型,实时用量排行,每个模型一份价目表。它没有公开做的是验证应答的模型就是你选的那个,也没有给供应商评级。它的排行反映的是用脚投票的结果,跟审计无关。两件事只隔一层,隔的恰好是要害。
两种路径都有失效的时候。纯市场优化的是流动性,把尽职调查交给买家自己做,这套办法一直管用,直到便宜的那个挂牌靠价格赢了,而买家分不清自己拿到了什么。带评级的交易所优化的是信任,这套办法一直管用,直到评级方的激励开始偏向付钱最多的卖家。前者死于劣币,后者死于俘获。
最难复制的那部分
要把验证做到规模,需要一样多数市场没有的东西:一个可以用来对照的参照实现。百度自己跑模型,所以它有平台上每个模型的指纹,也有某个提示词应该产出什么的基线。这个优势,一个中立的第三方如果拿不到各家实验室的配合,很难凑齐。参照系握在手里,裁判和选手就成了同一个人。
这也是这套模式很难在美国或欧洲被原样复制的原因。那里的中立交易所必须给一批毫无兴趣被指纹化的公司做指纹,还得公开那些公司会为此打官司的评级。门槛落在授权和法律责任上,技术反而好办。
中国版本的好处是可以自己定义参照系。这是一个披着技术外衣的治理选择。
接下来看什么
未来两个季度,看三件事。
第一,信用评级是公开且可比较的,还是只在平台内部可见。一个买家没法写进采购文件的评级,本质上是个会员体系。
第二,验证能不能覆盖最难的那种情况:供应商在探针面前用真模型,在生产流量上用便宜模型。入驻时的指纹比对抓不到这个,持续监控也许可以。这里的成本并不对称,检测一次很贵,绕过一次很便宜。
第三,交易所会不会公开自己的抽成比例。一个既给卖家评级、又从卖家流水里分成的场所,和由发行人付费的评级机构是同一类利益冲突,公开是唯一能压住它的东西。冲突不会消失,只会转移,公开至少把它挪到看得见的地方。
台上讲的是选择。产品做的是举证。被转卖商偷换过模型的人,早就知道自己愿意为哪一个掏钱。
相关文章
「宿命感拉满的橘子海剪影」:一句提示词把情绪拆成了参数
11 月 19 日到 20 日,小红书和抖音同时刷起「橘子海剪影」。点进去会发现多数人并没有站在落日下,他们把自己的一张照片交给豆包,出来的是一张 3:4 竖版情绪海报。这套氛围被拆成了十几个写得明明白白的参数。
ByteDance 的 SeedRealtime 每秒只取两帧,再自己决定什么时候开口
豆包 Seed-Realtime-1.0 把摄像头画面、屏幕画面和语音合成一个全双工会话,每秒最多推两帧。有意思的决定是帧率、主动说话,以及默认就开着的审核回复。
Cicada 直接听会议的系统音频,会议室里没有机器人
Cicada 是 Mac、Windows、Linux 和 Android 上的免费应用,从系统音频里写出双语字幕和结构化会议笔记。按住一个键,你能用自己克隆出来的声音,把回复用另一种语言说出去。整个过程里没有机器人加入通话。
一台 server、一个 AI 主播:夜间直播背后的代码
open-yoki 是一个每晚在 Binance Square 直播的 AI 主播的生产代码,人格、声音和跟钱有关的功能都拿掉了。headless Chrome 画帧,ffmpeg 推 RTMP,一个 Markdown 文件夹决定她的情绪和要发的东西。