摘要: AMD 於 8 月 6 日宣布與 2023 年成立的多倫多新創 Taalas 簽訂最終收購協議,交易金額未公布且仍需監管核准。Taalas 的 MSIC 把特定模型權重直接寫入晶片,HC1 測試晶片執行 Llama 3.1 8B 時達到每秒 16,960 個 token。這類設計換取推理吞吐,但模型改動超出 LoRA 轉接器範圍就必須重新投片。
8 月 6 日,AMD 宣布與多倫多新創 Taalas 簽下最終收購協議。這家公司 2023 年成立,走的是業界少見的激進路線:不碰通用 GPU,而是把某個特定模型的權重直接蝕刻進晶片,用「硬體圍著模型造」來換取推理速度與成本上的優勢。交易金額未公布,案子還得通過監管核准;The Register 的報導預期第四季可以完成。CNBC 提到,Taalas 累計募資金額為 2.19 億美元。
對 AMD 來說,這是在 Silo AI(6.65 億美元)、ZT Systems(49 億美元)之後,把全端佈局再補上一塊拼圖;宣布的時機,也緊接在 NVIDIA 去年 12 月約 200 億美元的 Groq 授權交易之後。專為推理而生的硬體,正逐漸成為晶片巨頭軍備競賽的新戰場。
交易重點
- 收購標的:Taalas,位於多倫多,2023 年創立,AMD 稱其為「專用 AI 推理矽晶的先驅」
- 金額未揭露,交易仍須滿足慣常條件並通過監管核准
- AMD AI 事業群資深副總裁 Vamsi Boppana:客戶應該能「為每種 AI 工作負載部署合適的運算方案」
- Taalas 共同創辦人暨執行長 Ljubisa Bajic:成立 Taalas 的初衷,就是「從零重新思考 AI 推理,把硬體圍著模型來造」
把模型印上晶片:MSIC 的運作方式
產品名稱 MSIC 取自 model-specific integrated circuit,晶片裡畫分成兩塊:一塊是 mask-ROM 記憶布料,把權重蝕刻在硬體上儲存起來;另一塊是 SRAM 記憶布料,用來處理 KV 快取與微調所需的轉接器。測試用的 HC1 晶片選台積電 6nm 製程,今年 2 月問世,執行 Llama 3.1 8B 時每秒可吐出 16,960 個 token——當時的表現是 NVIDIA GPU 的 48 倍、Cerebras 加速器的 8.5 倍。下一代的 HC2 打算把 200 億參數塞進單一晶片,而兆級參數模型大概得靠 50 顆晶片以管線方式並聯才跑得動。
速度背後的代價
要換到這樣的速度,代價講得很清楚:模型只要改到超出 LoRA 轉接器的範圍,就得再投一次片,所幸需要動到的只有兩層金屬層。Bajic 的說法是,新模型「兩個月內就能在硬體上實現」。換言之,MSIC 適合的是權重穩定、吞吐量極大的推理場景,快速迭代的前沿訓練並不在其中。AMD 的整合構想走混搭:提示處理由 GPU 負責,token 生成交給 Taalas 晶片,再與 Helios 機架系統、EPYC 與 ROCm 綁成整套方案。The Register 另引述,把權重蝕刻進矽的成本,約為訓練一個前沿模型的百分之一。
這對推理市場意味著什麼
Lisa Su 在說明裡把這個立場又講了一遍:「我深信晶片這件事沒有一體適用。」整句話幾乎就是產業走向的縮影:訓練與推理、提示處理與生成、通用與專用,正被拆散進不同的硬體類別。至於購買推理容量的開發者,短期內不會感受到太大變化,方向卻已經很清楚——模型固定、吞吐量極大的負載會最先等到專用矽的選項,而通用 GPU 的定價則會多出一股下壓力。
