AGENTIC COMMONSAI 產業簡報

繁中EN

主題開源模型與開放權重出版

返回文章列表

Qwen3.8-Flash-Next 發表:新架構把啟用參數壓到 6B

本頁內容6 個段落
  1. 成績單與發布時序
  2. 三個特別的零件
  3. 一切以效率為先
  4. 搬到自己機器上的真實門檻
  5. 開發者該怎麼看
  6. 參考來源

摘要: Qwen在2026年8月26日開源Qwen3.8-Flash-Next,這款視覺語言模型總參數約180B,每個token僅啟用6B,並強調長上下文與成本效率。官方數據顯示GPQA Diamond 91.7、LiveCodeBench v6 91.9等成績,但屬官方來源;本機部署至少約73GB最小量化檔,建議準備75GB以上RAM或統一記憶體。n-gram表偏靜態且靠統計召回,長尾知識仍需主模型或外部工具補足。

Qwen 在 2026 年 8 月 26 日把 Qwen3.8-Flash-Next 開源,副標題毫不掩飾地亮出主張:「新架構,邁向極致成本效率」。這是一個視覺語言模型,總參數約 180B,而每個 token 僅啟用 6B:125B 的主模型,再加上 51B 的 n-gram 嵌入表與 4B 的 MTP 模組。消息發布當天在 Hacker News 累積逾 700 點、兩百多則留言,成為該週開源社群討論熱度數一數二的發布。

成績單與發布時序

先把官方數字列一輪:GPQA Diamond 91.7、LiveCodeBench v6 91.9、SWE-bench Multilingual 81.0、SWE-bench Pro 62.5、AndroidWorld 84.5、HLE 35.9。原生上下文為 262,144 tokens,以 YaRN 可向外延展到一百萬。官方還主動附上成本比較:訓練支出大約只有 Qwen3.7-Plus 的九分之一,各項表現卻全面超前。時序同樣值得一看——模型卡 8 月 24 日建立,ModelScope 早一天用「125B A6B」預告,8 月 26 日才連同技術報告正式釋出。

三個特別的零件

一、n-gram 嵌入表:內含約兩千萬條 bigram 與 trigram 統計,讓模型不必靠 RAG 就能召回事實,而且這張表可以卸載到記憶體,甚至用 NVMe 分頁方式讀取,效能折損有限。二、混合注意力:用 Gated DeltaNet 配上 Qwen Sparse Attention(QSA),把長上下文的注意力開銷壓下來。三、MTP 多 token 預測層,解碼時一次預測多個 token,用計算換速度。MoE 這端是 512 個專家,每個 token 啟用 10 個路由專家加 1 個共享專家,共 48 層。也有開發者從 llama.cpp 的報錯訊息裡挖出新架構代號「qwen4exp」,解讀這次發布同樣在替 Qwen 4 鋪路。

一切以效率為先

啟用 6B 最直接的後果就是服務成本廉價:每個 token 的計算量跟一個 6B 稠密模型同級,身上卻背著 125B 主體的知識容量。官方把它定位為高吞吐、低延遲的主力機型——代理式工作流常常一次燒掉幾十萬 token,成本曲線直接決定能不能大規模跑起來。代價也寫得很清楚:n-gram 表偏靜態,召回靠統計而不是語義,長尾知識仍得由主模型參數或外部工具補齊。

搬到自己機器上的真實門檻

啟用參數只有 6B,不代表本機就好跑。n-gram 表加上全部權重照樣要佔記憶體:Unsloth 文件建議至少備妥 75GB RAM 或統一記憶體,最小的量化檔也還有約 73GB。社群實測的量級是這樣——DGX Spark 跑 nvfp4 約每秒 12 個 token,打開 MTP 之後變成 16 至 20;Strix Halo 約 35;128GB 的 M5 Max 在 18 萬 token 上下文下吃掉約 100GB 記憶體仍能運行。方向相當清楚:這款模型不是給 16GB 筆電用的,而是把「一張卡跑大型 MoE」的花費壓到工作站等級。

開發者該怎麼看

有三點值得記下來。其一,若 llama.cpp 的架構代號無誤,Flash-Next 就是 Qwen 4 架構的預告,此時評估技術選型,應該把這條遷移路徑一併算進去。其二,262K 原生上下文加上可卸載的 n-gram 表,對需要長文件、長對話、又不打算維護向量資料庫的應用來說,是多了一個新選項。其三,本機部署的門檻卡在記憶體而不是算力——規劃硬體時從 80GB 起算,比照「6B 啟用」推算更接近實況。

參考來源

AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. Qwen3.8-27B 開源釋出:體積小、看得懂圖,只是預設想太多

    阿里巴巴 Qwen 兌現一週前承諾,釋出 Apache 2.0 的 Qwen3.8-27B 開放權重:262K 上下文、原生視覺、單機可跑;Simon Willison 實測稱讚能力,也點出 xhigh 推理預設讓簡單任務慢上數倍。

    Qwen

  2. Qwen3.8-Max 正式發布並開放權重:鎖定寫程式與代理協作

    2026 年 8 月 3 日,阿里巴巴正式發布 Qwen3.8-Max:百萬 token 上下文、多模態輸入、輸入每百萬 token 2 美元,並成為 Max 系列首個開放權重的模型,主打寫程式與代理協作。

    Qwen

  3. DeepSeek V4-Flash 0731:只重做後訓練,代理能力越級跳

    2026 年 7 月 31 日,DeepSeek 推出 V4-Flash-0731:架構與規模不變、僅重新後訓練,代理基準大幅超越 V4-Pro-Preview,輸出速度每秒 210 個 token,權重續以 MIT 授權開放。

    LLM