AGENTIC COMMONSAI 產業簡報

繁中EN

主題開源模型與開放權重出版

返回文章列表

Qwen3.8-27B 開源釋出:體積小、看得懂圖,只是預設想太多

摘要: 阿里巴巴 Qwen 團隊在 8 月初開放旗艦 Qwen3.8-Max 的權重,同時預告規模較小的 27B 版本會在一週內補上。 第二,「預設值即產品」:xhigh 把第一次接觸變成漫長等待,社群已經動手改模板,把 medium 設為預設,模型廠商挑預設參數時應該更貼近真實用法。 第三,開放權重的步調沒有放慢,一個月內 Qwen 接連開源 Max 與 27B,對需要私有部署的團隊來說,本地選項又多了一個值得認真的候選。

阿里巴巴 Qwen 團隊在 8 月初開放旗艦 Qwen3.8-Max 的權重,同時預告規模較小的 27B 版本會在一週內補上。8 月 13 日左右,這項承諾兌現:Qwen3.8-27B 與 FP8 量化版一起登上 Hugging Face,採 Apache 2.0 授權,可自由商用。這個時間點值得記上一筆——同一個星期裡,封閉陣營的消息全繞著訂閱方案和算力合約打轉,開放權重這一邊則是不聲不響地把「地端跑得動的能力」再推前一格。

規格:體積小、上下文長、原生視覺

Qwen3.8-27B 的總參數量約 278 億,原生上下文為 262,144 tokens,可透過 YaRN 外插延伸到 100 萬。它是 Qwen3.8 系列裡第一個釋出權重的小型成員,架構接續 Qwen3.5 基礎:64 層混合布局,Gated DeltaNet 與 Gated Attention 輪流堆疊,並具備多 token 預測(MTP)。它也並非純文字模型,圖片與影片理解都是原生支援。思考模式出廠即開啟,推理深度能以 reasoning_effort 調節,而官方模型卡給的預設值是 xhigh——這個選擇後來成了討論焦點。

Willison 實測:能力沒問題,問題出在預設

Simon Willison 在 8 月 16 日發表實測。他在 128GB 的 M5 Max MacBook Pro 上跑 17GB 的 Q4_K_M 量化版,另外也試了 NVIDIA DGX Spark。他的結論分成兩半。能力方面,照片的邊界框偵測相當準確,只靠一句提示就生出一個可用的標註工具,還能驅動 Pi coding agent 回答程式庫問題、寫出附帶測試的 JSONL 轉 Markdown 腳本。速度方面則被預設值拖累:一句「畫一台腳踏車上的鵜鶘」燒掉 22,276 個推理 token,最後只吐出 3,223 個輸出 token,整題花了 21 分鐘;把推理關掉,同一題 137 秒就完成。就連「畫一個圓的 SVG」也會觸發一段他沒要的精緻動畫。他的建議很直接:從 low 用起,或索性關閉推理。

速度表現與生態系

地端 15 到 30 tokens/秒的吞吐量,擺在託管 API 的 74(OpenAI 5.6 Sol)到 184 tokens/秒(Luna)旁邊,稠密模型吃記憶體頻寬的劣勢一覽無遺。不過 llama.cpp 的 MTP 草稿解碼還能再把吞吐拉高約 72%。Artificial Analysis 隨後也把這款模型收進索引,給了 52 分的獨立評分。Unsloth 的 GGUF 量化、vLLM 與 SGLang 支援在發布當天就緒;官方自評在 Terminal Bench 2.1 拿 73.0、OSWorld-Verified 拿 84.3,這些數字仍待第三方驗證。

對地端部署的意義

三個要點。第一,一份 17GB 的檔案就裝下了長上下文、工具呼叫、視覺與程式生成;這樣的能力一年前還算旗艦級,如今在一台筆電上離線就能跑。第二,「預設值即產品」:xhigh 把第一次接觸變成漫長等待,社群已經動手改模板,把 medium 設為預設,模型廠商挑預設參數時應該更貼近真實用法。第三,開放權重的步調沒有放慢,一個月內 Qwen 接連開源 Max 與 27B,對需要私有部署的團隊來說,本地選項又多了一個值得認真的候選。

參考資料

AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. Qwen3.5 小模型補齊戰線:9B 在多項基準超越 gpt-oss-120b

    阿里巴巴 2 月底補上 Qwen3.5 的 0.8B–9B 四款小模型:Apache-2.0 開源、原生 262K 情境、支援影像影片輸入。9B 以 9.65B 密集參數在 MMLU-Pro、GPQA Diamond 超越 gpt-oss-120b,目標是手機與筆電上的本地多模態。

    Qwen

  2. GLM-5.3 權重開放下載:753B 旗艦的本地部署現實

    2026 年 8 月 25 日,Z.ai 把 753B 參數的 GLM-5.3 權重放上 Hugging Face,三天後在 Hacker News 衝上 806 分。本文解析其 MoE 架構、自訂授權條款與本地部署實測。

    Open Models

  3. Qwen3.8-Flash-Next 發表:新架構把啟用參數壓到 6B

    2026 年 8 月 26 日,Qwen 開源 Qwen3.8-Flash-Next:125B 主模型加 51B n-gram 嵌入表,每個 token 只啟用 6B 參數,原生 262K 上下文,官方定位是極致成本效率。

    Qwen