← 返回博客
Ai预计阅读 10 分钟

PixelUMM 与 Sana 指向同一个理念:把视觉模型中的脚手架拆掉

发布于 2026年10月7日
PixelUMM 与 Sana 指向同一个理念:把视觉模型中的脚手架拆掉

两个 NVIDIA 研究项目在相隔几天内相继发布,而且它们共享同一个论点。PixelUMM 于 UTC 时间 10 月 1 日 21:40 悄然出现在 Hugging Face 上——一个 152 亿参数的检查点,没有博客文章,没有新闻稿,也没有主题演讲幻灯片。而来自 NVIDIA、MIT 和清华大学研究人员的 Sana 公开时间更早,针对同一个“管道”问题采取了相反的思路。

PixelUMM:一个没有编码器的统一模型

仓库名称已经说明了这个项目是什么:nv-tlabs/PixelUMM,其一句话简介是“无编码器的统一图像与视频理解与生成”。它基于 Qwen3-8B 主干,仓库采用 Apache-2.0 许可证。

最有趣的主张是“无编码器”这一点。如今大多数视觉 AI 系统都把若干独立组件串联在一起:一个视觉编码器将图像转换为语言模型可读取的 token,一个 VAE 把像素数据压缩到扩散模型可以工作的潜空间,还有一个视觉 transformer 负责处理序列。PixelUMM 的构建目标就是无需这些中间环节即可运行,这也是为什么其项目主页至今仍标注“预览”,而权重却已经可以下载。

一个已经存在的产物与一个什么都没说的厂商之间的落差,正是这次发布的全部故事。有一个 GitHub 仓库,一篇编号为 2609.38597、日期为 9 月 29 日的 arXiv 预印本(作者来自 NVIDIA 和滑铁卢大学),以及一个被拆分到 128 个文件、并附带一份加载器拿不到就无法运行的隐藏索引的检查点。NVIDIA 是否认为 PixelUMM 已经发布,公司并未回答。

对任何跟踪这一领域的人来说,这种发布模式都很重要。过去研究成果会伴随一篇博客文章、一个演示页面和一轮协调好的媒体周期到来,如今有时只以一个仓库和一篇论文的形式出现。产物是公开且可引用的,而厂商自己的沟通却是一片沉默,这意味着你可以使用这个模型,却无法引用一份官方基准测试。评估它的团队只能依据一篇论文和自家的测试。

Sana:压缩整条成本链,而不是某一个模块

Sana 从相反的方向攻击技术栈的同一层。高分辨率文生图之所以昂贵,原因与像素数量关系不大:进入扩散 transformer 的潜 token 数量会随分辨率迅速增长。标准自注意力必须让每个 token 与其他所有 token 建立关联,因此成本、内存和延迟会一同攀升。

在 NVIDIA 自家的 1024 像素对比中,FLUX-dev 拥有 120 亿参数,运行速度为每秒 0.04 个样本,每张图耗时 23 秒。当推向 2K 或 4K 时,缩小模型或减少采样步数都无法解决根本问题。

Sana 压缩的是整条链,而不是单个组件。32 倍深度压缩自编码器减少了潜 token 的数量。线性注意力降低了每个 transformer 层的成本。高效求解器和少步蒸馏减少了采样次数。切片、卸载和低位量化降低了部署内存。已发布的模型包括面向最高 4K 的 0.6B 和 1.6B 版本,Sana-1.5 则扩展到 4.8B。在官方 1024 像素对比中,0.6B 版本的延迟为 0.9 秒。

链式压缩方案有一个单模块修补所不具备的诱人特性。由于每个环节都有贡献,团队可以只应用适合自身硬件的部分,跳过其余的。只有一台工作站、没有任何量化经验的人,可以只采用高效求解器。进行大规模部署的人,则可以叠加切片、卸载和低位量化,以适配小得多的显卡。各项权衡都按环节分别记录在案,而不是打包成一个全有或全无的决定。

Sana 的演进脉络也展示了一项研究成果变成产品界面有多快。最初的模型面向 4K 文生视频输出。此后该仓库不断扩展,纳入了 Sana-Sprint、视频生成、ControlNet、LoRA、量化、ComfyUI 集成以及一项在线服务。这与图像工具走过的弧线如出一辙:从一篇论文,到一个仓库,再到人们已经在使用的界面中的一个节点。

两种方法的共同点

把这两次发布并排来看,前进方向一目了然。两者都在试图移除自该领域早期以来就横亘在像素与模型之间的中间机制。PixelUMM 追问的是编码器是否根本必要。Sana 追问的是计算链在质量崩溃之前能被压缩到什么程度。

两种情况的权衡是一样的,而且两家实验室都没有隐瞒。移除编码器意味着模型必须自己学会编码器原本提供的东西,这会消耗训练算力,并可能在编码器原本擅长的任务上损失质量。激进地压缩计算链意味着质量上限会下移,而 Sana 自己的材料对那些延迟数字背后的硬件和测量条件也相当谨慎。

两家实验室都攻击这一层的原因是,中间环节已经变成了昂贵的部分。视觉编码器和 VAE 是分别训练、分别调优、分别提供服务的。每一个组件都可能与流水线的其余部分失去同步,而且每一个都会在每次请求的最前端增加延迟。移除它们是一种架构上的简化,而不是研究上的小把戏,并且会在每一次部署中带来回报。

为什么这对任何用图像做开发的人都很重要

对从业者而言,实际后果是硬件门槛的降低。NVIDIA 的 Sana 工作是今年一个更广泛趋势的一部分:过去需要数据中心级显卡的模型正被改造以适应消费级硬件,而开放社区已经开始把 6GB 显存门槛当作一项要求,而不是额外福利。

还有第二个后果,它体现在架构图上。当编码器和 VAE 不再是独立服务时,一条原本需要为三个模型做版本管理、监控和付费的流水线就变成了一个。这不如延迟数字那么显眼,但正是它改变了真实产品的维护负担。

对于在这些模型之上构建应用的团队来说,实际问题是他们能先采用哪种简化。无编码器方案承诺更干净的架构,但需要相信模型自身的表征处理能与专门构建的编码器所提供的能力相匹配。链式压缩方案承诺在今天就带来可量化的速度和内存收益,同时保持现有架构不变。前者是对领域走向的押注,后者是对你已经拥有的硬件的押注。

两种押注都合理,而且追求它们的两家实验室并不在争夺同一个部署场景。PixelUMM 的统一框架适合那些希望用同一个模型完成理解与生成的团队。Sana 适合那些需要在受限硬件上获得高分辨率输出的团队。两者的重叠之处,正是它们都试图从技术栈中删掉的那一部分。

NVIDIA 没有说明 PixelUMM 是否已经完成。Sana 的代码已公开,仓库也扩展到包含 sprint 变体、视频生成、ControlNet、LoRA、量化、ComfyUI 支持和一项在线服务。两个研究团队,两条路线,一个目标:视觉技术栈中那些没人愿意去想的环节,正在被设计掉。

相关文章