摘要: Meta 於美國時間 10 月 15 日發布開放權重模型 Muse Spark Open,總參數達 8,160 億,主工程式開發與 Agent 任務,並與 Apple 合作展示在兩台 Mac Studio 上運行。對 builder 而言,重點不只是榜單分數,而是高能力模型的部署選項開始不再只有資料中心 GPU 一條路。
模型本身:MoE 加上多模態與長上下文
根據 TechOrange 的整理,Muse Spark Open 採用混合專家架構(MoE),雖然總參數高達 8,160 億,但每次生成只啟用約 420 億參數,藉此壓低運算負擔。模型支援最長 100 萬 tokens 上下文,可處理文字、圖片、音訊與影片,權重已開放下載,開發者可自行部署與微調。
效能方面要分開看。Meta 官方評測顯示,它在 Agent 工作能力測試 JobBench 拿下 61.8 分,明顯高於 NVIDIA Nemotron 3 Ultra 的 27.2 分;工具操作測試 MCP-Atlas 得 89.2 分,超過 Reflection AI 的 Beam 與智譜 AI 的 GLM-5.3。但在 Terminal-Bench 2.1 程式開發測試中,它的 76.4 分落後 Beam(80.1)、GLM-5.3(83.9)與 Kimi K3(85)。這些分數來自 Meta 自己公布的測試,第三方尚未全面驗證,選型時值得保守解讀。
兩台 Mac 能跑的三個原因
Meta 與 Apple 的展示說明了超大模型如何在桌上型硬體上運行,關鍵有三:
- 統一記憶體:搭載 M5 Ultra 的 Mac Studio 單台最高可配 512GB 統一記憶體,兩台合計 1TB。Apple Silicon 的整合式 GPU 可直接存取統一記憶體,不像獨立 GPU 受限於各自的顯示記憶體容量。
- 四位元量化:根據 Apple Machine Learning Research 的資料,模型 BF16 權重原本需要超過 1.6TB 記憶體,經 NVFP4 量化後降至約 493GB。但因推論仍需中間運算空間,單台 512GB 仍不足以完整運行。
- MLX 框架與機器間通訊:透過 Thunderbolt 5 與 RDMA,兩台 Mac 各承載部分模型並在推論中交換結果。
速度上有實測數據:在 8,192 tokens 輸入上下文下,兩台 M5 Ultra Mac Studio 以張量平行方式每秒生成約 24.99 tokens,四台可到 36.73 tokens。這是能用的互動速度,但離高吞吐的伺服器級部署仍有距離。
「兩台就跑」不等於「部署便宜」
《VentureBeat》指出,展示用的雙機配置需要兩台各 512GB 記憶體的 M5 Ultra Mac Studio,而該版本截至 10 月 15 日尚未上市、價格未公布;參考基準是四台 256GB 版 Mac Studio 總價約 4.3 萬美元。硬體門檻仍然不低,只是從「資料中心才碰得到」降到了「公司機櫃塞得下」。
另一個常被忽略的細節是授權。開放權重不等於完全開源:依 Muse Model License,年營收超過 2,000 萬美元的企業若以 MaaS 形式對外提供模型輸出,須先與 Meta 另簽協議;內部使用與一般產品功能整合則不受限。如果你的商業模式就是把模型輸出賣出去,先讀條款再下載。
對 builder 的實際意義
地端部署的價值在於掌握運行環境、降低對外部 API 的依賴,以及提高資料自主性。這次展示的訊號是:隨著高能力權重開放,部署選項開始分化。我先前在 Muse Spark Open 權重釋出的分析裡提過類似判斷——開放權重的價值要看部署彈性,而不只是省 API 費。
實務上的下一步不難:先盤點工作負載的延遲與吞吐需求,再估算自有硬體的總持有成本。如果推論量不大、資料又敏感,雙機 Mac 路線值得納入評估;若是高吞吐的正式環境,雲端 GPU 仍可能是較划算的選擇。這次合作至少證明了一件事——部署架構的選擇權,正在回到開發者手上。
