摘要: Cerebras 在 8 月 19 日發表機架級推理系統 CS-4 與 WSE-3T Turbo 晶圓,宣稱單機架推理速度最高可達 GPU 的 30 倍。WSE-3T 沒有換新矽,而是提高供電與時脈;提示詞處理改由 AWS Trainium 和 AMD Instinct 分攤,Cerebras 晶圓專注解碼。
8 月 19 日,Cerebras 端出新一代機架級推理系統 CS-4,以及代號「Turbo」的 WSE-3T 晶圓。官方喊出的賣點是:單一機架能跑出比 GPU 快 30 倍的推理速度,並打算把前一世代的每瓦吞吐量再往上推十倍。同一天,The Register 與 The Next Platform 各自刊出深入拆解;首批 CS-4 預計在本季內上線。
一家靠「整片晶圓即一顆晶片」打出名號的公司,這回最耐人尋味的選擇偏偏是不做新晶片。
沒有新矽,只是把同一片晶圓逼得更緊
WSE-3T 的「T」指的是 Turbo,但這顆東西並非新矽。製程、46,225 平方毫米的晶圓面積、電晶體數、核心數,以及 44 GB 的晶上 SRAM,全部與兩年前的 WSE-3 一模一樣。真正動刀的是供電:新的電力傳輸設計能讓灌進晶圓的功率變成兩倍,藉此把時脈往上推。The Register 推估時脈已從 1.4 GHz 升到約 2.8 GHz。
翻倍於是發生在每一項規格上:單片晶圓提供 250 PFLOPS 的 AI 運算(稀疏值)、43.2 PB/s 的記憶體頻寬,以及 2.4 Tbps 的片外連接頻寬,後者是原本 1.2 Tbps 的兩倍;晶片之間的延遲也由 5 微秒降到 2 微秒。
機架內部:背包模組、電源架與 2D 環面
一套 CS-4 最多可容納三片 WSE-3T,外型做成「背包」:控制電路全部內建在模組上,模組從機架背面插入,機架正面則留給電源架。The Register 估計整座機架的功耗落在 120 到 140 kW 之間;這個數字聽來駭人,但對照年底要推出的 240 到 250 kW GPU 機架,反而顯得保守。
互連是另一半重點。CS-4 把交換器拿掉,改讓晶片透過 2D 環面直接互連——那是個兩端繞回對側的網格。官方宣稱此拓撲能撐起最多 50 兆參數的模型。若偏好交換式架構,也支援 RoCE,代價是延遲略高一些。正是低延遲讓 Cerebras 得以採用最單純的多晶片推理方式,也就是管線並行:權重沿著晶片序列攤開,運算一片接一片流過去。
把推理拆開:提示詞處理交給 Trainium 與 Instinct
架構上更大的一步,是 Cerebras 不再獨力扛下整條推理管線。最吃算力的提示詞處理(prefill)改由 AWS Trainium 與 AMD Instinct GPU 分攤,Cerebras 的晶圓則退守自己最擅長的解碼段:晶上 SRAM 讓權值與 KV 快取緊貼著運算單元。以往用 GPU 叢集跑兆級模型得動用兩千顆加速器,如今幾十片晶圓就能應付,實際數量取決於權重精度。
數據亮眼,但前提得先看懂
Artificial Analysis 的實測結果是:單一 CS-4 系統跑 gpt-oss-120b,每位使用者可達 4,400 tok/s,而目前最快的 GPU 推理服務約為 350 tok/s。The Register 則補上兩點提醒。其一,250 PFLOPS 是靠稀疏性撐出來的,換算成稠密 FP16 只剩約 25 PFLOPS,依舊夠強,卻不如帳面風光。其二,43.2 PB/s 的記憶體頻寬恐怕只是理論峰值——前一代 WSE-3 在推理時從來沒把自己的 SRAM 餵飽過。
對開發者與採購團隊的意義
有三點可以帶走。第一,競爭的單位已經變成機架:NVL72、Helios 與 CS-4 都以機架界定部署規模,採購談判的問法也從「要幾張卡」換成「要幾個機架」。第二,異構拆分已是常態——既然連 Cerebras 都承認 prefill 不必用自己的晶片,自建推理服務就更沒理由把每個環節綁死在同一種硬體上。第三,首批 CS-4 本季上線,正在為低延遲語音或代理式工作負載挑選推理後端的團隊,實測清單上多了一個新選項。
