
4GB 显卡跑 2.8 万亿参数:AirLLM 如何击穿显存高墙
一张 4GB 显卡,2.8 万亿参数,听起来像是打错字。AirLLM 的思路不是把模型变小,而是不再试图一次把它全部装进内存:逐层从磁盘读取,用完即放。代价是速度,换来的是那些本不该跑得起来的模型真的跑了起来。
发现生成式 AI 的技巧、教程与行业见解

一张 4GB 显卡,2.8 万亿参数,听起来像是打错字。AirLLM 的思路不是把模型变小,而是不再试图一次把它全部装进内存:逐层从磁盘读取,用完即放。代价是速度,换来的是那些本不该跑得起来的模型真的跑了起来。

Meta 的 Muse Image 在出图之前先规划、搜索、写代码并核查结果,把验证挪进了模型内部。它真正的野心不在画面质量,而在于成为遍布数十亿用户的默认图像层。

同为 5 万张商品图,模型月账单相差超过 12 倍。真正决定花费的是验收率与重试率,而不是榜单排名。

十月,编程智能体的竞争从模型转向扩展层。Claude Code Mods、Cursor Projects 与一批社区技能仓库,说明价值正从生成代码转向组织那些生成代码的智能体。

开源编码智能体 Prime Agent 被自己重写了:两周、两千多个智能体、两千亿 token,从 TypeScript 搬进 Rust,冷启动快 14 倍。拆解这场蜂群重写的编排方式,以及真正值得抄的那部分。

一个能生成原生 2K 视频并带同步音频的开源模型是实打实的一步。它需要的硬件,才是决定谁能用上它的部分。

Hyperframes 把 HTML 渲染成视频,ArtCraft 打包了一套创作引擎,text-to-cad 把 CAD 交给智能体。智能体正在学着做出你能看见的东西。

谷歌从第一天起就和盲人与低视力用户一起构建实时视觉辅助。这是一个安静却锋利的测试:多模态助手到底是为了什么。

基于 Qwen3.5-9B 的 Decision-1 不聊天。它决定该由哪个模型来处理请求,而这正是任何 AI 流水线里最常见的工作。

Anthropic 联合 Runway 把一个动效工具推入市场。动效设计比视频生成小得多的问题,也是日常得多的问题。