AGENTIC COMMONSAI 產業簡報

繁中EN

主題開源模型與開放權重出版

返回文章列表

Liquid AI LFM2.5-8B-A1B 發布:38T tokens 訓練的端側 MoE 推理模型

本頁內容7 個段落
  1. 預訓練 12T 變 38T:訓練拆成三段
  2. 跑分結果:推理與工具呼叫雙雙跳升
  3. 只做推理的設計,以及它的代價
  4. 速度表現:CPU 就有每秒 253 tokens
  5. 權重已開放,授權條款先看清楚
  6. 端側 AI 開發者能從中拿到什麼
  7. 資料來源

摘要: Liquid AI 於 2026 年 5 月 28 日推出 LFM2.5-8B-A1B,總參數 8B、每 token 約啟用 1B,定位為裝置內助理與代理模型。預訓練從 12T tokens 增至 38T,上下文擴到 128K,推理與工具呼叫分數大幅提升。權重已上架,但授權是自訂 LFM 1.0,不是 Apache 2.0,商用前應先檢視條款。

Liquid AI 在 2026 年 5 月 28 日推出 LFM2.5-8B-A1B,Base 版本同步現身,用來接替前代 LFM2-8B-A1B。這是一款稀疏 MoE 模型,參數總量 8B,每個 token 實際動用約 1B。官方交給它的任務是擔任「裝置內個人助理」——進駐邊緣裝置、筆電與手機,以工具呼叫與 agentic 工作流程為核心,並且在回答之前,先把明確的思考鏈完整寫出來。

這回規格幾乎沒動,加碼的全在訓練量:預訓練資料由 12T tokens 一舉推上 38T,上下文也從 32,768 放大到 128K。本地模型追近雲端的路徑正在改變——關鍵不再是把參數堆高,而是資料規模與訓練流程的分工。

預訓練 12T 變 38T:訓練拆成三段

訓練流程分三段進行。起點是 38T tokens 的預訓練;接著投入 2T tokens 做中期訓練,內容鎖定推理、數學、工具使用與長文件,上下文在此先拉到 32K;末段再補 400B tokens,同時調高 RoPE base θ,上下文於是一路開到 128K。詞表同步處理:由 65,536 擴成 128K 個 BPE tokens,做法是原地擴充。

強化學習階段有兩個設計值得留意。其一,偏好最佳化特別針對「doom loops」,也就是模型在同一處反覆打轉、走不出來的情況;其二,獎勵採用 avg@k——同一道題抽樣作答多次,再按答案彼此一致的程度計分,幻覺就這樣被壓低。

跑分結果:推理與工具呼叫雙雙跳升

以前一代 LFM2-8B-A1B 為對照(舊版分數 → 新版分數):

  • IFEval:79.44 → 91.84
  • MATH500:74.80 → 88.76;AIME25:20.00 → 42.53,AIME26 達 50.00
  • BFCLv3:45.07 → 64.36;BFCLv4:25.52 → 48.50
  • Tau² Telecom:13.60 → 88.07;Tau² Retail:7.02 → 39.82
  • 非幻覺率(Non-Hallucination Rate):7.46 → 63.47

升幅最大的兩組分數——BFCL 與 Tau²——恰好都在量工具呼叫,這與它作為裝置內代理的定位完全吻合。詞表放大之後,tokenizer 在 16 種語言的效率均見提升:泰文 +238.2%、印地文 +120.4%、越南文 +117.9%、阿拉伯文 +38.8%。

只做推理的設計,以及它的代價

這款模型只提供 reasoning-only 一種模式:任何回答之前,都得先把明確的思考鏈寫出來。數學題與多步驟任務因此直接受益,幻覺率也隨之走低;相應的成本則是延遲變長、token 用量變多。把它放進手機這種對反應速度最斤斤計較的場景,無疑是大膽的決定——不過 Liquid AI 顯然已經判斷:值得等待的回答,才配得上這個代價。

速度表現:CPU 就有每秒 253 tokens

官方給出的推理數據是:Apple M5 Max 的 CPU 每秒可產生 253 tokens;AMD Ryzen AI Max+ 395 每秒 146 tokens,記憶體用量壓在 6GB 以下;手機平台大約每秒 30 tokens。換到 GPU,一張 H100 SXM5 在高併發下每秒輸出 18.5K tokens,換算一整天下來超過 16 億 tokens。

架構照舊走混合式:稀疏 MoE 結合 GQA 與 gated short convolution 區塊。Hugging Face 模型卡載明:全部 24 層,其中 18 層 convolution、6 層 GQA;參數總計 8.3B,每個 token 啟用 1.5B。

權重已開放,授權條款先看清楚

權重已經在 Hugging Face 上架(LiquidAI/LFM2.5-8B-A1B),備有 GGUF、ONNX 與 MLX 格式;官方的說法是「下載、微調、部署,沒有限制」。但要注意,模型卡登記的授權是 Liquid 自訂的 LFM 1.0 條款,而不是 Apache 2.0——打算收進商業產品的話,條款最好先讀過一輪。

端側 AI 開發者能從中拿到什麼

有三個訊號值得記下。第一,128K 上下文已經下放到手機級模型,長文件、多輪對話與本地 RAG 都成為切實可做的應用。第二,工具呼叫分數(BFCLv4 來到 48.50)已經撐得起一個認真打造的「本地代理」,而且 llama.cpp、vLLM、SGLang 等主流框架在第一天就完成支援。第三,每 token 只啟用約 1B 的 MoE 再次印證:左右端側體驗的是「啟用量」,不是「總參數」——無論硬體選型或續航考量,這都是好消息。

資料來源

AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. GLM-5.3 權重開放下載:753B 旗艦的本地部署現實

    2026 年 8 月 25 日,Z.ai 把 753B 參數的 GLM-5.3 權重放上 Hugging Face,三天後在 Hacker News 衝上 806 分。本文解析其 MoE 架構、自訂授權條款與本地部署實測。

    Open Models

  2. Muse Spark Open:兩台 Mac 跑超大模型的部署啟示

    Meta 以 816B MoE、NVFP4 量化與 Apple MLX 展示開放權重模型不必依賴 GPU 伺服器的部署路線。

    Muse Spark

  3. Qwen3.8-27B 開源釋出:體積小、看得懂圖,只是預設想太多

    阿里巴巴 Qwen 兌現一週前承諾,釋出 Apache 2.0 的 Qwen3.8-27B 開放權重:262K 上下文、原生視覺、單機可跑;Simon Willison 實測稱讚能力,也點出 xhigh 推理預設讓簡單任務慢上數倍。

    Qwen