摘要: Cerebras 與 OpenAI 在 2026 年 8 月 13 日推出 GPT-5.6 Sol Ultrafast,首發於 OpenAI API,官方稱輸出可達每秒 750 個 token 且品質沒有犧牲。Wafer-Scale Engine 以 44 GB SRAM 把權重留在晶片內;文章引用 HLE 約 7 倍、GDP-Val 5.6 倍加速,並強調準確率相當。這個檔位仍是有限預覽,定價尚未公布。
多數模型發表的焦點放在「更聰明」,但 Cerebras 與 OpenAI 在 2026 年 8 月 13 日聯手端出的 GPT-5.6 Sol Ultrafast 服務層,談的是另一個題目:更快。這個新檔位由 Cerebras 的硬體撐起來,首發於 OpenAI API,把 GPT-5.6 Sol 的輸出推上每秒 750 個 token,而官方對品質的講法是「沒有任何犧牲」。
對做即時應用的人來說,快本身就是一種新本事。原本要等上好幾分鐘才有回應的情境,一旦壓縮到近乎同步,很多以前做不起來的產品形態就忽然成立。
750 token/s 是什麼概念
拿第三方評測機構 Artificial Analysis 追蹤的輸出速度來擺在一起看:GPT-5.6 Sol Ultrafast 的速度是 Anthropic Claude Fable 5 的 11 倍,也是 Opus 4.8 Fast mode 的 5 倍。每秒 750 個 token 意味著一段 3,000 字的長回應大約四秒就輸出完畢——這個延遲已經落在讓人覺得像在對話的區間。
Cerebras 想講的不是峰值數字的比拼,而是前沿智慧終於能用即時速度交付。模型能力和推理速度過去各走各的路,現在兩條路開始併在一起。
晶圓級引擎:把權重留在晶片上
速度的根源在硬體架構。Cerebras 的 Wafer-Scale Engine 在一塊晶圓大小的晶片上放了 44 GB 的 SRAM,模型權重因此全數留在晶片內部,token 則以跨晶圓的流水線方式穿過一層又一層。傳統 GPU 推理卡在權重必須反覆進出 HBM 記憶體,頻寬成了硬天花板;權重不走這條路,天花板也就不存在。
Cerebras 同時聲稱這套架構在模型變大時能平順擴展。這是對後續幾代模型開出的支票,需要持續盯著看。
實測:HLE 快 7 倍、GDP-Val 快 5.6 倍
有兩組量測結果值得記下。其一,Humanity’s Last Exam 的 2,500 題全部跑完,Ultrafast 用了 11 小時 11 分,Claude Fable 5 則花掉 78 小時 27 分,換算下來約 7 倍加速,且準確率相當(測試時間為 7 月 10 日至 15 日,透過 Codex 與 Claude Code、以 xhigh 推理強度執行)。其二,GDP-Val 上取得 5.6 倍的端到端加速,品質並未因此打折。
「準確率相當」這幾個字才是重點:速度不是靠蒸餾或換小模型換來的,而是同一個模型被搬上頻寬不再是限制的硬體。
即時代理是最大受益者
Cerebras 列出的適用場景相當明確:生產事故的根因分析、網路攻擊的即時應變、需要即時互動的代理工作流程,以及回應時間會直接反映在價值上的法律、金融與工程工作。這些場景的共通點就是「等不起」,延遲多一分鐘,損失就多一分鐘。
Ultrafast 眼下還是有限預覽,僅開放給部分客戶,之後隨容量擴充再逐步放寬。定價也還沒公布。對負責產品規劃的人而言,此刻該做的是先把自己手上「對延遲敏感」的工作流程挑出來,等存取一開放就能直接搬過去。
