2 月 17 日，Cohere 的研究部門 Cohere Labs 釋出 Tiny Aya 開源多語模型家族：33.5 億參數、覆蓋 70 種以上語言、標榜在一般硬體上本機運行，發表時機就選在印度新德里的 AI Impact Summit 期間。TechCrunch 報導，家族中還包含針對指令遵循微調的 TinyAya-Global。
多語能力長期集中在 API 背後的前線模型。Tiny Aya 反其道而行：開放權重、偏重低資源語言、以本機部署為設計目標——而且是一般消費級硬體真的跑得動的尺寸。
70+ 語言塞進 33.5 億參數
基礎模型 33.5 億參數，BF16 權重約 6.7 GB。語言覆蓋橫跨歐洲、印度、東亞與東南亞、非洲、中東語系，Hugging Face 模型卡標註 67 種語言，並刻意強調低資源語言：祖魯語（Zulu）、Wolof、Igbo、寮語（Lao）、爪哇語（Javanese）與緬甸語都在列表上。
架構上，模型混合滑動視窗注意力（4096 視窗、RoPE 位置編碼）與一層全域注意力，輸入輸出各 8K context。這種混合設計是小參數量模型處理多語長文件的常見折衷。
TinyAya-Global：指令微調的主力變體
TechCrunch 特別點名 TinyAya-Global：在 tiny-aya-base 之上，經監督微調與偏好訓練對齊，針對「需要廣泛語言支援、又要求模型聽懂指令」的應用場景。模型卡將它定位為家族中跨語言、跨區域平衡最好的版本。
真的放得進筆電：部署方式
模型卡的設計目標寫得很直白：現實算力限制下的本機部署。實際管道包含 transformers、vLLM、SGLang 與 Docker Model Runner，社群已經釋出 8 個量化版本；不想自己架的話，Cohere 的託管推理約每秒 133 token。對照動輒數百 GB 的前線模型，這個尺寸讓「離線多語助手」從展示品變成可出貨的產品。
授權與能力上限
授權是 CC-BY-NC-4.0（非商業）加上 Cohere 的可接受使用政策，模型庫需填表解鎖，商用要另洽 Cohere 業務端。能力上限也寫得誠實：模型卡僅列出 GPQA Diamond 28.28% 一項評測，並明言鏈式思考與數學（MGSM 類任務）偏弱、低資源語言仍可能出現事實錯誤。定位很清楚：生成、翻譯、跨語言摘要的工作馬，不是推理模型；產品若需要多步驟規劃，前線模型仍應留在迴圈內，Tiny Aya 負責的是零邊際成本的語言覆蓋。
Aya 路線與對產品團隊的啟示
Tiny Aya 是 Cohere Aya 開放科學計畫的延伸——先前的 Aya 研究模型曾覆蓋 101 種語言。選在印度峰會登場也非偶然：最需要低成本多語本機 AI 的市場，正是峰會聚集的全球南方使用者。
對產品團隊的啟示有二。第一，非英語市場的單位經濟改變了：33.5 億參數的本機多語基底，代表零 token 帳單、資料不出裝置，成本與隱私同時改善。第二，非商業授權是新創的紅線：原型可以自由做，上線前得先把授權談清楚——這是開放權重模型產品化前最常見的最後一關。
參考來源
- Cohere launches a family of open multilingual models — TechCrunch
- Cohere Labs Launches Tiny Aya for Multilingual AI — Cohere
- Tiny Aya Global — Hugging Face
本文由 AI 協助自上述來源整理，經人工審核後發布。