AGENTIC COMMONSAI 產業簡報

繁中EN

主題開源模型與開放權重出版

返回文章列表

把翻譯模型放進產品前,先看吞吐量與長文件的真實落差

摘要: Cohere 於 2026 年 9 月 10 日推出 North Small Translate,具備 218B 總參數、25B 激活與 16k 輸入輸出上下文。文章強調長文件品質與吞吐量比平均分數更影響部署,官方稱輸出速度比 Gemma 4 31B 快 30% 到 38%。開放權重限非商用,商業化必須走 RWS Language Weaver 授權路徑。

規格表上有幾個數字值得先看清楚:MoE 架構,總參數 218B、活躍參數 25B,輸入與輸出的 context length 各為 16k;硬體門檻最低是 1 張 B200,或採 W4A4 量化的 2 張 H100。這是 Cohere 推出的 North Small Translate,發布時間為 2026 年 9 月 10 日;而它值得被拿出來討論的理由很實際——做翻譯功能最怕的從來不是分數不夠漂亮,而是上線之後才發現長文件品質崩潰、併發一高吞吐量就撐不住。

真正決定部署的,是長文件與吞吐量

在 WMT26 上,全語言平均為 83.6 分,領先 DeepL NextGen(81.37)、Gemma 4 31B(79.46)與 Google Translate(68.20)。不過對做產品的人來說,長文件評測更值得盯:North Small Translate 在此測得 48.9 分,兩倍於 Google Translate(21.3),也兩倍於 Gemma 4 31B(19.4)——換句話說,一次翻兩個章節的書本內容,品質不會出現斷崖。

吞吐量也同樣是硬指標。硬體與併發條件相同時,輸出速度比 Gemma 4 31B 快上 30–38%:低併發是 112 TOPS 對上 81 TOPS,高併發則為 39 TOPS 對 30 TOPS。若你正在挑翻譯 API,或考慮自己架模型,這兩個數字比平均分數更能預測實際用起來的感受。

每任務 0.000676 美元這個價格,藏著什麼取捨

Cohere 公布的商業授權價格為每任務 0.000676 美元,平均僅用到 661 個 token;換到 Gemini 3.1 Pro Preview,同一項數字是 0.038928 美元,兩者差距超過 57 倍。但這是企業商業授權的價格,不等於在 Hugging Face 取用開放權重的成本——開放權重採 CC BY-NC 4.0,限研究與非商業用途,真要放進產品得透過 RWS 的 Language Weaver 平台。

取捨因此很清楚:要的是可控的翻譯品質與成本,就自架 North Small Translate,得備好 1–2 張高階 GPU;只想快速驗證,API 或輕量模型反而更務實。就像我們在把測試證據放進開發流程談過的,分數只是起點,能不能成事取決於你怎麼把它接進既有流程。

Agentic 版本:讓「找出錯誤」變成產品能力

它另有一個 Agentic 版本,會在翻譯完成後把錯誤找出來並修正,WMT26 分數因此升到 84.36。法律文件、醫療說明這類要求高準確度的場景,最能感受到這項能力的價值,代價則是額外的運算與延遲。Cohere 沒有公布這個版本的吞吐量或成本,所以要不要採用,延遲能否接受得自己測。

先量長文件,再談整合

這顆模型的意義,不是又多了一個高分模型,而是把長文件品質與吞吐量這兩個部署痛點變成可以量的數字。評估翻譯方案時,建議先拿兩個章節的長文件做一次盲測,並同時記錄併發下的 TOPS。分數可以騙人,延遲和品質崩潰騙不了人。

參考來源

AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. OpenRouter 數據:開放權重何時當預設

    OpenRouter 統計顯示開放權重模型已吃下七成 token,價格僅四分之一,本文整理何時該用它當預設。

    OpenRouter

  2. Mistral Large 4 開放權重:Le Chonk 正式釋出

    **摘要:** Mistral 於 2026 年 10 月 29 日宣布,把旗下 1 兆參數的多模態旗艦模型 Mistral Large 4(綽號 Le Chonk)的權重正式開放。從月初的公開預覽到現在,僅三週的強化學習就讓它在編碼與防禦性安全基準上躍居開放權重模型之首,並新增三段推理模式讓成本可控。對 builder 來說,這代表自托管前沿模型第一次在代理式編碼場景具備實戰競爭力。

    Mistral

  3. MiniMax M3.1 Flash:1M 上下文與 effort 控制的實用拆解

    MiniMax 於 2026/10/19 公布 M3.1 Flash,主打 1M token 上下文、可調思考深度與 $0.15/M 的定價。

    AI