
把 27B 模型壓到每個權重兩個位元
Underdog AI 發布 Saluki 27B,把 Qwen 3.8 27B 壓到每權重兩位元,檔案僅約 7.89GB,卻保留了大部分效能,工具呼叫上甚至超越原版。
分類
332 articles

Underdog AI 發布 Saluki 27B,把 Qwen 3.8 27B 壓到每權重兩位元,檔案僅約 7.89GB,卻保留了大部分效能,工具呼叫上甚至超越原版。

JetBrains 發布 Mellum2.1,一個 120 億參數的混合專家程式模型,以真實版本庫中的強化學習完成後訓練。它刻意保持小規模,專為程式代理打造。

Anthropic 發布 Claude Haiku 5.5,執行成本比 Haiku 4.5 低約 75%。當便宜的那一層模型幾乎免費時,它能做什麼,就決定了整個代理型產品能做什麼。

OpenAI 在 10 月初向全體用戶推送 GPT-6,約 12 億週活躍用戶同時換上新的預設模型。其核心特性 Intelligent UI 讓模型用可互動元件組織答案,而不只是一段文字。

Meta 發表首批前沿模型 Muse Wonder 與 Muse Wonder Full,主打 Active Memory 和 Active Focus 兩項能力,把跨對話記憶與長程專注作為核心賣點,定價與前沿模型看齊。

面壁智能發布 MiniCPM-V4.7,用 35B-A3B 的 MoE 架構把旗艦級多模態能力搬上手機,靠 LES 前瞻調度壓低記憶體,離線也能跑。

模型是智慧,harness 是管線,兩者不必裝在同一個包裹裡。一批開源專案正把這層綁定拆開,讓你用自己偏好的介面執行任何前沿模型,並把存取預設留在本地。

單位元權重不是噱頭。解析微軟 BitNet 的三值方案如何用加法取代乘法,讓大模型跑在一般 CPU 上,以及它真正的代價。

歐盟 AI 法案第 50 條讓 AI 影片的來源中繼資料成為合規問題。標籤在生成時已內建,也最容易被流程剝掉。

agent 不會因為跑得久而變聰明,反而會因為 context window 被垃圾填滿而變笨。從工具輸出 sandboxing 到持久化記憶與 routing,這些專案正在修復 agent 的記憶。

Google 將於 2026 年 10 月 22 日關停 Gemini API 上全部 Veo 端點,包括 veo-3.1-lite-generate-preview,替換為按 token 計費的 gemini-omni-1.1-flash。

一張 4GB 顯示卡,2.8 兆參數,聽起來像是打錯字。AirLLM 的思路不是把模型變小,而是不再試圖一次把它全部裝進記憶體:逐層從磁碟讀取,用完即放。代價是速度,換來的是那些本不該跑得起來的模型真的跑了起來。