AGENTIC COMMONSAI 產業簡報

繁中EN

主題AI 晶片與算力出版

返回文章列表

GPT-5.6 Sol Ultrafast 實測:Cerebras 晶圓級引擎把推理推到每秒 750 個 token

摘要: Cerebras 與 OpenAI 在 2026 年 8 月 13 日推出 GPT-5.6 Sol Ultrafast,首發於 OpenAI API,官方稱輸出可達每秒 750 個 token 且品質沒有犧牲。Wafer-Scale Engine 以 44 GB SRAM 把權重留在晶片內;文章引用 HLE 約 7 倍、GDP-Val 5.6 倍加速,並強調準確率相當。這個檔位仍是有限預覽,定價尚未公布。

多數模型發表的焦點放在「更聰明」,但 Cerebras 與 OpenAI 在 2026 年 8 月 13 日聯手端出的 GPT-5.6 Sol Ultrafast 服務層,談的是另一個題目:更快。這個新檔位由 Cerebras 的硬體撐起來,首發於 OpenAI API,把 GPT-5.6 Sol 的輸出推上每秒 750 個 token,而官方對品質的講法是「沒有任何犧牲」。

對做即時應用的人來說,快本身就是一種新本事。原本要等上好幾分鐘才有回應的情境,一旦壓縮到近乎同步,很多以前做不起來的產品形態就忽然成立。

750 token/s 是什麼概念

拿第三方評測機構 Artificial Analysis 追蹤的輸出速度來擺在一起看:GPT-5.6 Sol Ultrafast 的速度是 Anthropic Claude Fable 5 的 11 倍,也是 Opus 4.8 Fast mode 的 5 倍。每秒 750 個 token 意味著一段 3,000 字的長回應大約四秒就輸出完畢——這個延遲已經落在讓人覺得像在對話的區間。

Cerebras 想講的不是峰值數字的比拼,而是前沿智慧終於能用即時速度交付。模型能力和推理速度過去各走各的路,現在兩條路開始併在一起。

晶圓級引擎:把權重留在晶片上

速度的根源在硬體架構。Cerebras 的 Wafer-Scale Engine 在一塊晶圓大小的晶片上放了 44 GB 的 SRAM,模型權重因此全數留在晶片內部,token 則以跨晶圓的流水線方式穿過一層又一層。傳統 GPU 推理卡在權重必須反覆進出 HBM 記憶體,頻寬成了硬天花板;權重不走這條路,天花板也就不存在。

Cerebras 同時聲稱這套架構在模型變大時能平順擴展。這是對後續幾代模型開出的支票,需要持續盯著看。

實測:HLE 快 7 倍、GDP-Val 快 5.6 倍

有兩組量測結果值得記下。其一,Humanity’s Last Exam 的 2,500 題全部跑完,Ultrafast 用了 11 小時 11 分,Claude Fable 5 則花掉 78 小時 27 分,換算下來約 7 倍加速,且準確率相當(測試時間為 7 月 10 日至 15 日,透過 Codex 與 Claude Code、以 xhigh 推理強度執行)。其二,GDP-Val 上取得 5.6 倍的端到端加速,品質並未因此打折。

「準確率相當」這幾個字才是重點:速度不是靠蒸餾或換小模型換來的,而是同一個模型被搬上頻寬不再是限制的硬體。

即時代理是最大受益者

Cerebras 列出的適用場景相當明確:生產事故的根因分析、網路攻擊的即時應變、需要即時互動的代理工作流程,以及回應時間會直接反映在價值上的法律、金融與工程工作。這些場景的共通點就是「等不起」,延遲多一分鐘,損失就多一分鐘。

Ultrafast 眼下還是有限預覽,僅開放給部分客戶,之後隨容量擴充再逐步放寬。定價也還沒公布。對負責產品規劃的人而言,此刻該做的是先把自己手上「對延遲敏感」的工作流程挑出來,等存取一開放就能直接搬過去。

參考來源

AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. OpenAI 大幅降價 GPT-5.6 Luna 與 Terra,推出 Fast mode 加速 Sol

    OpenAI 於 2026 年 7 月 30 日宣布 GPT-5.6 Luna 與 Terra 的 API 價格大幅調降,並推出 Fast mode 讓 Sol 的處理速度提升至 2.5 倍。本文整理價格變動、效率提升的技術背景,以及對產品開發者的實務意涵。

    OpenAI

  2. OpenAI 的飛輪:當「值得做的工作」邊界被重新劃定

    從 GPT-6 Astra 到自研晶片,OpenAI 闡述其如何將模型進步、產品觸角與算力經濟學結合成一個自我強化的循環。本文為產品建造者解析這背後對工作成本、採用曲線與基礎設施策略的意涵。

    OpenAI

  3. Daytona 沙箱接上 OpenAI 電腦操作循環

    Daytona 官方指南示範用 OpenAI ComputerToolset 驅動沙箱桌面,並把每個動作的准駁權留在你的 driver 程式碼裡。

    AI Agents