一次實驗性更新,把長 context 的成本砍半
DeepSeek 在 2025 年 9 月 29 日發布 DeepSeek-V3.2-Exp,這是一個實驗性模型,核心改動是首次採用 DeepSeek Sparse Attention(DSA)。根據 DeepSeek API 文件的說明,DSA 以細粒度的稀疏注意力來加速長 context 的訓練與推理,而官方對輸出品質的說法是「影響極小」,benchmark 顯示 V3.2-Exp 的表現與前一版 V3.1-Terminus 相當。
對 builder 來說,最直接的訊號是價格:DeepSeek API 的價格即時調降超過 50%。這不是等下一代模型才降價,而是把效率優化直接反應在帳單上。
三個可以馬上動作的事
一、把長 context 的成本假設重算一次。 如果你的產品本來因為 API 價格而壓低送進模型的文件量或對話歷史,新價格值得你重新評估一次 pipeline 設計。降價 50% 以上,代表某些原本不划算的用法(例如整份文件直接餵進去)可能已經過了損益兩平線。
二、利用對照測試期做 A/B 驗證。 官方保留了 V3.1-Terminus 的臨時 API,讓開發者做比較測試,期限到 2025 年 10 月 15 日 15:59(UTC)。如果你的任務對品質敏感,這是唯一的機會在同一條 pipeline 上並排跑兩個模型,確認稀疏注意力在你的實際工作負載上沒有掉點。錯過這段時間,對照組就要自己另想了。
三、研究用途可以直接看 kernel。 DeepSeek 這次同步開源了模型權重(Hugging Face)、技術報告(GitHub 上的 PDF),以及以 TileLang 和 CUDA 實作的關鍵 GPU kernel,並建議研究原型用 TileLang。對做推理優化或自建 serving 的團隊,這比單純拿到權重有用得多。
稀疏注意力為什麼值得追蹤
Attention 的計算量隨 context 長度成長,一直是長文件、長對話、agent 長時運行任務的成本瓶頸。DSA 走的路線是只對「重要的部分」做細粒度注意力,用架構層的改動換運算量。如果這條路線被驗證可規模化,長 context 的價格曲線會繼續往下走。
我先前在另一篇裡討論過 DeepSeek-V3.2 把思考放進工具呼叫的設計,那篇看的是 agent 流程層的改動;這次的 V3.2-Exp 則是在模型架構層動刀。兩件事疊起來,DeepSeek 顯然把「長 context 的 agent」當成主要戰場。
限制先講清楚
V3.2-Exp 標明了是實驗性版本,「與 V3.1-Terminus 相當」的說法來自 DeepSeek 自己公布的 benchmark,尚未經過第三方驗證。供應的 RSS 摘要沒有說明 DSA 的具體稀疏機制細節,那要看技術報告本身。實際的做法:帶上你的真實 workload,在 10 月 15 日前跑完對照測試,再決定要不要把預設模型切過去——這比看任何 benchmark 都準。
