部落格

探索生成式 AI 的技巧、教學與見解

把 27B 模型壓到每個權重兩個位元

把 27B 模型壓到每個權重兩個位元

Underdog AI 發布 Saluki 27B,把 Qwen 3.8 27B 壓到每權重兩位元,檔案僅約 7.89GB,卻保留了大部分效能,工具呼叫上甚至超越原版。

Ai·2026年10月15日·預計閱讀 10 分鐘
一個在實戰中學會寫程式的開源模型

一個在實戰中學會寫程式的開源模型

JetBrains 發布 Mellum2.1,一個 120 億參數的混合專家程式模型,以真實版本庫中的強化學習完成後訓練。它刻意保持小規模,專為程式代理打造。

Ai·2026年10月15日·預計閱讀 9 分鐘
房間裡最便宜的模型,才是最該留意的

房間裡最便宜的模型,才是最該留意的

Anthropic 發布 Claude Haiku 5.5,執行成本比 Haiku 4.5 低約 75%。當便宜的那一層模型幾乎免費時,它能做什麼,就決定了整個代理型產品能做什麼。

Ai·2026年10月15日·預計閱讀 9 分鐘
當答案變成介面:GPT-6 與 Intelligent UI

當答案變成介面:GPT-6 與 Intelligent UI

OpenAI 在 10 月初向全體用戶推送 GPT-6,約 12 億週活躍用戶同時換上新的預設模型。其核心特性 Intelligent UI 讓模型用可互動元件組織答案,而不只是一段文字。

Ai·2026年10月15日·預計閱讀 10 分鐘
Meta 發表首批前沿模型,主打記憶能力

Meta 發表首批前沿模型,主打記憶能力

Meta 發表首批前沿模型 Muse Wonder 與 Muse Wonder Full,主打 Active Memory 和 Active Focus 兩項能力,把跨對話記憶與長程專注作為核心賣點,定價與前沿模型看齊。

Ai·2026年10月15日·預計閱讀 9 分鐘
4GB 顯示卡跑 2.8 兆參數:AirLLM 如何擊穿顯示記憶體高牆

4GB 顯示卡跑 2.8 兆參數:AirLLM 如何擊穿顯示記憶體高牆

一張 4GB 顯示卡,2.8 兆參數,聽起來像是打錯字。AirLLM 的思路不是把模型變小,而是不再試圖一次把它全部裝進記憶體:逐層從磁碟讀取,用完即放。代價是速度,換來的是那些本不該跑得起來的模型真的跑了起來。

Ai·2026年10月13日·預計閱讀 9 分鐘