摘要: Amazon 於 2026 年 11 月 10 日發表第二代表格基礎模型 Mitra-v2,做法不是改架構,而是把合成資料預訓練的規模與多樣性拉大:列數放大十倍、欄數約三倍,並加入新的混合 SCM 先驗。結果在獨立基準 TabArena 上完成全部 51 個真實資料集、登上單模型首位,分類與迴歸版本連同程式碼以 Apache-2.0 授權開源。對做結構化資料預測的團隊來說,這代表「每換一張表就重選一次演算法」的循環,可能真的有替代方案了。
表格預測的老問題
企業大部分資料都在表格裡:列是客戶、交易或互動紀錄,欄是屬性,預測缺失欄位(例如客戶留存率、下週需求量)是業界最常見的機器學習任務之一。標準做法如 gradient-boosted decision trees,產出的是針對特定表格的模型——每張新表都要選演算法、做特徵工程、調參、搭 pipeline。這篇文章的作者 Chris (Luyang) Kong 在 Amazon Science 部落格上解釋,表格基礎模型想終結的正是這個循環:一個預訓練模型讀進新表的已標註列,直接預測其餘列,中間不需要訓練流程。
第一代 Mitra 完全用合成表格預訓練,不用任何真實或客戶資料,在小到中型表格上表現不錯,但遇到大型、寬型、類別多的問題就力不從心。Mitra-v2 針對的就是這三個瓶頸。
改的不是架構,是預訓練資料
Mitra-v2 的骨幹延用上一代:一個同時在表格的列與列、欄與欄之間做 attention 的 Transformer。真正變的是模型在預訓練時「見過什麼」:列數是 v1 的十倍,欄數約三倍,規模接近企業實際在用的表格。
另一個關鍵是合成資料的配方。原本的表格來自結構因果模型(SCM)和樹模型;Mitra-v2 新增的 hybrid SCM prior 在單一因果圖裡,讓每條因果關係可以是一個小型神經網路、一棵決策樹、一個從 Gaussian process 抽出的平滑函數,或帶時間相依性的自迴歸過程。這樣一張合成表就能同時承載真實表格裡那種混雜的關係型態,團隊再配上一個 hybrid optimizer 維持訓練穩定。這條路線值得注意:效能提升來自資料的多樣性與範圍,而不是更深的網路。
部署時的三個細節
預訓練範圍再大也有極限,所以推理時有兩個輕量包裝:太寬的表格先用奇異值分解(SVD)壓進允許的空間;輸出層只有 10 個節點,對應 10 個類別,類別更多的任務會把各節點輸出交給一個階層樹再細分。
第三個細節最容易被忽略:Mitra-v2 預設會對每張新表做一次短暫的自動微調,產生八份副本、平均其預測,也就是標準的 bagging。所以它不是嚴格意義上的零樣本模型——用更高的運算開銷換準確率。評估結果時要記住這一點,別拿它跟純 zero-shot 方法直接類比。
成績說到哪裡,沒說到哪裡
在由獨立學術團隊維護、以 Elo 排名、固定一小時預算的 TabArena 上,Mitra-v2 在兩模型都能原生執行的 33 個資料集中,有 32 個勝過 Mitra-v1,並且在 51 個資料集全部跑完——v1 有超過三分之一跑不完。在評測「預測一組可能值而非單一數字」的迴歸基準 ScoringBench 上,微調版排第一;在約 300 個資料集的 TALENT 上屬於領先方法,類別數超過 10 的分類任務表現最強。
幾件事這篇公告沒有確立:微調加 bagging 在實際部署中的延遲與成本數字沒有公開;TALENT 的結果只有概括描述,沒有逐資料集細節;相對於 gradient boosting 基線的經濟性比較也未提供。採用前這些都得自己量。
Builder 該做什麼
分類版與迴歸版的模型、推理與微調程式碼都已經在 Hugging Face 上以 Apache-2.0 釋出,Amazon Connect Customer 團隊主導這項工作,並已把 Mitra-v2 用於結構化業務與客戶體驗資料的預測。這和開源權重模型近來的整體趨勢一致——之前談 GLM-5.2 開源發布時提過,能自己下載、自己驗證,才是評估的起點。
實際的下一步:拿你手上最大、最寬、類別最多的那張表試跑一次,特別量三個數字——微調加八副本 bagging 的推理時間、寬表經過 SVD 壓縮後的準確率損耗、以及對超過 10 個類別任務走階層樹路徑的表現。另外,迴歸版回傳的是預測區間而不只是點估計,如果你的業務決策依賴不確定性資訊,這是它相對傳統做法的一個實質差異點。
參考來源
在 X 上查看原貼文
