光子内存墙：Volantis 刚刚押下的 8800 万美元赌注
Volantis 的构想说起来简单，却令人难以置信：打造一套让内存墙消失的推理系统。
这家总部位于旧金山的半导体公司于 10 月 1 日完成 8800 万美元 A 轮融资，由 Lachy Groom 和 Abstract Ventures 共同领投，John Doerr、VXI Capital、Triatomic 和 Susa Ventures 参投。其天使投资人名单读起来就像推理成本话题的名人录，包括 Dwarkesh Patel、Naveen Rao 和 Sholto Douglas。创始团队来自 NVIDIA、AMD、Broadcom 和 Ayar Labs，此前曾参与首款 CoWoS 产品、大规模可调谐 VCSEL 以及早期共封装光学器件的研发。
所有人都已学会与之共存的权衡
要快速运行大型模型，需要两样硬件始终无法同时提供的东西。你需要巨大的容量来存放权重，还需要巨大的带宽将它们持续送入计算引擎。如今每一种量产架构都只能二选一。
片上 SRAM 提供了带宽，却没有容量，这限制了模型规模和上下文窗口，同时推高了每个 token 的成本与能耗。HBM 和 GPU 内存提供了容量，却没有足够带宽来高速服务最大的模型。即便是 3D DRAM 等更新的方案，也仍处在同一条曲线上，只是沿着曲线走得更远。
Volantis 表示，其首个系统 A-1 的设计目标是将容量和带宽同时提升近两个数量级。这将使其能够以每用户每秒最高 10,000 个 token 的速度运行超过 20 万亿参数的模型。这些只是该公司公布的设计目标，尚无独立验证。请将它们视为一种意图声明，而非基准测试结果。
这种权衡之所以长期存在，原因在于物理规律。带宽受限于有多少数据能够跨越内存与计算之间的边界，而大型模型的绝大部分能耗恰恰就花在这个边界上。将权重从内存搬到算术单元所耗费的功率，远远超过算术运算本身。任何能在提升带宽的同时不增加这项成本的架构，都能赢得双重优势。
光子学，瞄准更难的难题
光子学早已在数据中心内部传输数据。如今存在的方案大多是芯片到芯片。将计算连接到内存则是一个不同的问题，因为它要求在短得多的距离内传输百倍以上的数据量。在那种规模下，能耗和成本的表现截然不同。
Volantis 专门针对这种环境构建了其平台。它没有采用外部激光器，而是使用定制微 VCSEL，依托现有的砷化镓 VCSEL 供应链，并绕开了制约其他光学设计的磷化铟瓶颈。该公司称，由此得到的链路每比特能耗低于 1 皮焦耳。
这种光学互联架构将许多内存芯片汇聚成单一逻辑资源，因此增加内存不仅增加容量，也增加带宽。这正是诀窍所在。但也正是这部分将决定整个方案能否成立，因为通过光学互连来池化内存，恰恰是延迟和容错变得真正困难的地方。一条缓慢的链路就可能拖住整个资源池，而原本只会导致一个内存模块故障的问题，如今影响范围要大得多。
为什么这个时机并非偶然
过去一年里，这一构想所面对的市场形态已经改变。当模型只是回答问题的时候，推理成本低廉，突发流量也很短暂。随着智能体承担更长时间的任务，一次运行几分钟甚至几小时，推理速度就不再只是一种便利，而会成为吞吐量的倍增器。一个编码智能体如果能在两分钟而不是三十分钟内完成任务，不只是感觉更快，它还改变了一名开发者一天能测试多少想法。
正是这种转变，让那些思考推理经济学的投资者不断出现在这类融资轮中。如果智能体工作负载的规模取决于底层硬件的速度，那么硬件就不再只是背景成本，而会成为决定一家公司运转速度的因素。在那个世界里，内存带宽不是规格表上的一个数字，而是企业能以多快速度行动的一项关键指标。
它要和谁竞争
Volantis 并非唯一在攻克推理瓶颈的公司，而其他替代方案会影响人们如何评判这笔赌注。GPU 厂商不断用新的内存类型和封装技术推高带宽，在同一曲线上更用力地挤压。芯片设计公司则追逐针对特定模型形态调优的专用加速器。光子学改造要与所有这些方案竞争，而且只有当它推动的是整条曲线，而不只是曲线上的某个点，它才可能胜出。这是一个很高的门槛，也正因如此，这轮融资才值得关注：严肃的投资者很少会资助推动曲线迁移的项目，除非他们相信现有方案已接近极限。
诚实的差距
任何公允的解读都应包含两个告诫。第一，A-1 尚不存在。Volantis 计划在 2027 年向客户交付首批集成推理引擎，而从融资轮到产品出货之间，还有很大的出错空间。第二，这些数字来自公司自身，并被描述为设计目标。目前没有第三方基准测试，也没有客户在运行该系统。
这并不意味着这笔赌注不合理。它只是说明下注很早。半导体的时间线很长，而这些钱正被用于工程团队规模和通往首批部署的道路，而不是为一款产品做营销。这 8800 万美元是跑道，不是证明。
用大白话说内存墙
内存墙是指处理器计算的速度与它获取所计算数据的速度之间的差距。在现代 AI 中，算术运算很少是瓶颈，等待权重送达才是。其结果是，单靠更快的芯片，带来的收益远低于规格表所暗示的水平，因为芯片大部分时间都处于空闲状态。推理硬件领域每一项严肃的努力，在某种程度上都是在攻击这种空闲时间。Volantis 从内存侧而非计算侧发起攻击，这是一条不那么拥挤、却也更艰难的道路，因为要从内存到计算的路径中榨出带宽，意味着重建这条路径本身，而不是调校两端的东西。
什么能证明它
值得关注的里程碑不是一场发布。而是有客户运行一个原本无法容纳的模型，并且其速度改变了他们能做的事。如果 A-1 出货，且内存带宽的声明在真实工作负载中经受住考验，那么内存墙就不再是生活的现实，而会变成一个已有供应商的已解决问题。
在那之前，诚实的总结是：Volantis 从理解这个问题的人那里筹集了可观的资金，去攻克推理硬件中最艰难的单点约束，并承诺了一套如果成真将意义重大的系统。在半导体行业，几乎所有重要的事情大致都是这样开始的。很多昂贵的事情也是这样结束的。