AGENTIC COMMONSAI 產業簡報

繁中EN

主題開源模型與開放權重出版

返回文章列表

Muse Spark Open:兩台 Mac 跑超大模型的部署啟示

摘要: Meta 於美國時間 10 月 15 日發布開放權重模型 Muse Spark Open,總參數達 8,160 億,主工程式開發與 Agent 任務,並與 Apple 合作展示在兩台 Mac Studio 上運行。對 builder 而言,重點不只是榜單分數,而是高能力模型的部署選項開始不再只有資料中心 GPU 一條路。

模型本身:MoE 加上多模態與長上下文

根據 TechOrange 的整理,Muse Spark Open 採用混合專家架構(MoE),雖然總參數高達 8,160 億,但每次生成只啟用約 420 億參數,藉此壓低運算負擔。模型支援最長 100 萬 tokens 上下文,可處理文字、圖片、音訊與影片,權重已開放下載,開發者可自行部署與微調。

效能方面要分開看。Meta 官方評測顯示,它在 Agent 工作能力測試 JobBench 拿下 61.8 分,明顯高於 NVIDIA Nemotron 3 Ultra 的 27.2 分;工具操作測試 MCP-Atlas 得 89.2 分,超過 Reflection AI 的 Beam 與智譜 AI 的 GLM-5.3。但在 Terminal-Bench 2.1 程式開發測試中,它的 76.4 分落後 Beam(80.1)、GLM-5.3(83.9)與 Kimi K3(85)。這些分數來自 Meta 自己公布的測試,第三方尚未全面驗證,選型時值得保守解讀。

兩台 Mac 能跑的三個原因

Meta 與 Apple 的展示說明了超大模型如何在桌上型硬體上運行,關鍵有三:

  1. 統一記憶體:搭載 M5 Ultra 的 Mac Studio 單台最高可配 512GB 統一記憶體,兩台合計 1TB。Apple Silicon 的整合式 GPU 可直接存取統一記憶體,不像獨立 GPU 受限於各自的顯示記憶體容量。
  2. 四位元量化:根據 Apple Machine Learning Research 的資料,模型 BF16 權重原本需要超過 1.6TB 記憶體,經 NVFP4 量化後降至約 493GB。但因推論仍需中間運算空間,單台 512GB 仍不足以完整運行。
  3. MLX 框架與機器間通訊:透過 Thunderbolt 5 與 RDMA,兩台 Mac 各承載部分模型並在推論中交換結果。

速度上有實測數據:在 8,192 tokens 輸入上下文下,兩台 M5 Ultra Mac Studio 以張量平行方式每秒生成約 24.99 tokens,四台可到 36.73 tokens。這是能用的互動速度,但離高吞吐的伺服器級部署仍有距離。

「兩台就跑」不等於「部署便宜」

《VentureBeat》指出,展示用的雙機配置需要兩台各 512GB 記憶體的 M5 Ultra Mac Studio,而該版本截至 10 月 15 日尚未上市、價格未公布;參考基準是四台 256GB 版 Mac Studio 總價約 4.3 萬美元。硬體門檻仍然不低,只是從「資料中心才碰得到」降到了「公司機櫃塞得下」。

另一個常被忽略的細節是授權。開放權重不等於完全開源:依 Muse Model License,年營收超過 2,000 萬美元的企業若以 MaaS 形式對外提供模型輸出,須先與 Meta 另簽協議;內部使用與一般產品功能整合則不受限。如果你的商業模式就是把模型輸出賣出去,先讀條款再下載。

對 builder 的實際意義

地端部署的價值在於掌握運行環境、降低對外部 API 的依賴,以及提高資料自主性。這次展示的訊號是:隨著高能力權重開放,部署選項開始分化。我先前在 Muse Spark Open 權重釋出的分析裡提過類似判斷——開放權重的價值要看部署彈性,而不只是省 API 費。

實務上的下一步不難:先盤點工作負載的延遲與吞吐需求,再估算自有硬體的總持有成本。如果推論量不大、資料又敏感,雙機 Mac 路線值得納入評估;若是高吞吐的正式環境,雲端 GPU 仍可能是較划算的選擇。這次合作至少證明了一件事——部署架構的選擇權,正在回到開發者手上。

參考來源

AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. Muse Spark Open:816B 開放權重,桌上型也能跑

    Meta 釋出 816B 參數的 Muse Spark Open 開放權重模型,兩台 Mac Studio 即可在桌面運行完整 agentic 工作流。

    Meta

  2. Muse Spark Open 開放 API:長工時編碼代理的實際取捨

    Meta 開放權重模型 Muse Spark Open登上 Together AI,1M context、每百萬輸入 token 收 $1.25,代理編碼多一個託管選項。

    Muse Spark

  3. Meta 回歸開放權重:30B 的 Muse Glimmer 把本地代理變成現實

    2026 年 8 月 10 日,Meta 以 Apache 2.0 釋出 30B 參數的 Muse Glimmer,針對常駐本地代理工作流設計,單張消費級 GPU 就能跑,並承諾開放 Muse Spark 權重。

    Meta