GPU

AMD 發表 MI350 系列:4 倍算力、35 倍推論

2025 年 6 月 12 日,AMD 在 Advancing AI 活動發表 Instinct MI350 系列:288GB HBM3E、原生 FP4/FP6,宣稱對 MI300X 算力最高 4 倍、推論最高 35 倍;MI350X 與 MI355X 已量產出貨,並預告 2026 年 Helios 機架與 MI400。

AMD 發表 MI350 系列:4 倍算力、35 倍推論 — 文章封面
本頁內容6 個段落
  1. 規格與量產時程
  2. 性能主張:4 倍算力、35 倍推論
  3. ROCm 7 與企業軟體堆疊
  4. 平台細節:從 8 顆 GPU 到 128 顆
  5. 預告 2026:Helios 機架與 MI400
  6. 參考來源

2025 年 6 月 12 日,AMD 在加州聖荷西舉行 Advancing AI 活動,執行長蘇姿豐正式發表 Instinct MI350 系列加速器。這場發表的火力集中在兩件事:對上一代 MI300 的大幅躍進,以及對輝達的逐項比較。

同樣值得注意的是舞台的擺法:MI350 只是開場,AMD 第一次把「機架級設計」放到舞台中央——真正的目標是 2026 年的 Helios 機架與 MI400。

規格與量產時程

MI350 系列包含氣冷的 MI350X 與液冷的 MI355X,採用 CDNA 4 架構、台積電 N3P 製程,運算晶片由 8 個 XCD 組成、共 256 個運算單元,電晶體總數 1,850 億,比 MI300 的 1,530 億多 21%。I/O 晶片從四片縮減為兩片,Infinity Fabric 寬度翻倍,雙向頻寬最高 5.5TB/s。記憶體方面,單顆 GPU 最高搭載 288GB HBM3E、頻寬 8TB/s,比輝達 GB200/B200 的容量多 60%;新增 FP4 與 FP6 資料格式,其中 FP6 能以 FP4 的速度執行,是 AMD 特別強調的差異點。MI355X 走液冷路線,板卡功耗 1,400 瓦,高於 MI300X 的 750 瓦與 MI325X 的 1,000 瓦;代價是 FP64 矩陣性能只有 MI300X 的一半,也不再有 MI300A 那樣的 APU 版本——需要 CPU 加 GPU 混合部署的 HPC 用戶,得留在上一代。一句話總結這張卡的定位:HPC 規格讓位,一切為 AI 推論服務。

出貨節奏方面,MI350 系列已在量產、5 月開始出貨,合作夥伴的伺服器與雲端執行個體預計 2025 年第三季陸續到位。時程上還有一層意義:MI350 平台將一路支撐 AMD 的機架方案直到 2026 年,再由 MI400 接棒——這代產品的生命週期,正好是 AMD 對輝達追趕戰略的執行窗口。

性能主張:4 倍算力、35 倍推論

AMD 的官方數字是:對上 MI300X,MI350 系列 AI 算力最高提升 4 倍、推論性能最高提升 35 倍。實際模型的數字則保守一些:DeepSeek R1 約 3 倍、Llama 4 Maverick 約 3.3 倍,AI 代理與聊天機器人工作負載最高 4.2 倍,內容生成、摘要與對話類工作負載約 2.6 到 3.8 倍。兩組數字的落差是解讀重點:「最高 35 倍」來自特定低精度推論場景的峰值,實際模型 3 到 4 倍的區間,才是採購評估時比較合理的預期。對比輝達,AMD 宣稱 MI355X 在同條件的 FP4 推論比 B200/GB200 快最高 1.3 倍、部分訓練工作負載快 1.13 倍;相較 B200,MI355X 的 FP64 峰值性能翻倍(MI350X 為 72 TF、MI355X 為 79 TF)。

蘇姿豐在主題演講中定調:「MI350 系列是 Instinct 史上最大的一次世代性能躍進,而我們已經深入開發 2026 年的 MI400。」

ROCm 7 與企業軟體堆疊

軟體端同步推出 ROCm 7:相較 ROCm 6.0,推論性能提升超過 4 倍、訓練提升 3 倍,並改善對產業標準框架的支援、擴大硬體相容性,補上新開發工具、驅動、API 與函式庫。AMD 也首次發表 ROCm Enterprise AI,定位為企業 AI 營運的 MLOps 平台——把部署、監控與版本管理包進一個官方平台,降低企業採用非輝達生態系的摩擦。對一家長期被批評軟體生態落後的公司來說,這兩項承諾的兌現程度,比硬體規格更值得追蹤。

平台細節:從 8 顆 GPU 到 128 顆

系統層的數字同樣關鍵。單一 8-GPU 平台可裝下 2.3TB 的 HBM3E;節點以兩顆第五代 EPYC「Turin」處理器搭配七條 Infinity Fabric 互連(合計 1,075 GB/s),並走 PCIe 5.0 x16。機架部分,直冷液冷(DLC)方案可擴展到 128 顆 MI355X、總計 36TB HBM3E;氣冷方案為 64 顆 GPU、18TB。GPU 採 OAM 模組與 OCP 標準的 UBB 主機板,對外擴充有支援 Ultra Ethernet Consortium 規範的 Pollara 網卡,對內則以 Ultra Accelerator Link(UAL)做規模擴展。AMD 的說法是:拉高功耗換來的是密度與更好的整體 TCO。這些數字拼起來的圖像很清楚——AMD 賣的不只是一張卡,而是從節點到機架的完整參考設計,讓合作夥伴縮短從下單到上線的時間。

預告 2026:Helios 機架與 MI400

真正的賭注在明年。Helios 是採雙寬(double-wide)設計的機架級系統,為前沿模型訓練與大規模推論而生,整合 MI400 GPU、Zen 6 架構的「Venice」EPYC 處理器與 Pensando「Vulcano」網卡。MI400 的單 GPU 規格預告為:FP8 算力 20 PF、432GB HBM4、記憶體頻寬 19.6TB/s、每 GPU 300 Gbps 的 scale-out 頻寬。AMD 數據中心解決方案副總裁 Andrew Dieckmann 在活動前受訪時說,Helios 的記憶體頻寬與 scale-out 頻寬都比對手方案多 50%;關於雙寬設計的取捨,他的解釋是加大機架寬度是為了在複雜度、可靠性與性能之間找到對的設計點。蘇姿豐的說法更直接:「MI400 從零開始就是為機架級解決方案設計。」路線圖的每一步,都指著同一個目標:機架級的性價比。

對採購方來說,2025 年下半年的問題很實際:MI355X 液冷機架的供電與散熱需求,能不能換來比輝達更好的單位成本推論?短期看第三季的實際部署數字,中期看 2026 年 Helios 能否如期交貨——AMD 對輝達的追趕,這兩個時間點會給出答案。

參考來源

本文由 AI 協助自上述來源整理,經人工審核後發布。

分享X電郵