AGENTIC COMMONSAI 產業簡報

繁中EN

主題開源模型與開放權重出版

返回文章列表

Mitra-v2 擴大合成預訓練,吃下更大更寬的表格

本頁內容6 個段落
  1. 表格預測的老問題
  2. 改的不是架構,是預訓練資料
  3. 部署時的三個細節
  4. 成績說到哪裡,沒說到哪裡
  5. Builder 該做什麼
  6. 參考來源

摘要: Amazon 於 2026 年 11 月 10 日發表第二代表格基礎模型 Mitra-v2,做法不是改架構,而是把合成資料預訓練的規模與多樣性拉大:列數放大十倍、欄數約三倍,並加入新的混合 SCM 先驗。結果在獨立基準 TabArena 上完成全部 51 個真實資料集、登上單模型首位,分類與迴歸版本連同程式碼以 Apache-2.0 授權開源。對做結構化資料預測的團隊來說,這代表「每換一張表就重選一次演算法」的循環,可能真的有替代方案了。

表格預測的老問題

企業大部分資料都在表格裡:列是客戶、交易或互動紀錄,欄是屬性,預測缺失欄位(例如客戶留存率、下週需求量)是業界最常見的機器學習任務之一。標準做法如 gradient-boosted decision trees,產出的是針對特定表格的模型——每張新表都要選演算法、做特徵工程、調參、搭 pipeline。這篇文章的作者 Chris (Luyang) Kong 在 Amazon Science 部落格上解釋,表格基礎模型想終結的正是這個循環:一個預訓練模型讀進新表的已標註列,直接預測其餘列,中間不需要訓練流程。

第一代 Mitra 完全用合成表格預訓練,不用任何真實或客戶資料,在小到中型表格上表現不錯,但遇到大型、寬型、類別多的問題就力不從心。Mitra-v2 針對的就是這三個瓶頸。

改的不是架構,是預訓練資料

Mitra-v2 的骨幹延用上一代:一個同時在表格的列與列、欄與欄之間做 attention 的 Transformer。真正變的是模型在預訓練時「見過什麼」:列數是 v1 的十倍,欄數約三倍,規模接近企業實際在用的表格。

另一個關鍵是合成資料的配方。原本的表格來自結構因果模型(SCM)和樹模型;Mitra-v2 新增的 hybrid SCM prior 在單一因果圖裡,讓每條因果關係可以是一個小型神經網路、一棵決策樹、一個從 Gaussian process 抽出的平滑函數,或帶時間相依性的自迴歸過程。這樣一張合成表就能同時承載真實表格裡那種混雜的關係型態,團隊再配上一個 hybrid optimizer 維持訓練穩定。這條路線值得注意:效能提升來自資料的多樣性與範圍,而不是更深的網路。

部署時的三個細節

預訓練範圍再大也有極限,所以推理時有兩個輕量包裝:太寬的表格先用奇異值分解(SVD)壓進允許的空間;輸出層只有 10 個節點,對應 10 個類別,類別更多的任務會把各節點輸出交給一個階層樹再細分。

第三個細節最容易被忽略:Mitra-v2 預設會對每張新表做一次短暫的自動微調,產生八份副本、平均其預測,也就是標準的 bagging。所以它不是嚴格意義上的零樣本模型——用更高的運算開銷換準確率。評估結果時要記住這一點,別拿它跟純 zero-shot 方法直接類比。

成績說到哪裡,沒說到哪裡

在由獨立學術團隊維護、以 Elo 排名、固定一小時預算的 TabArena 上,Mitra-v2 在兩模型都能原生執行的 33 個資料集中,有 32 個勝過 Mitra-v1,並且在 51 個資料集全部跑完——v1 有超過三分之一跑不完。在評測「預測一組可能值而非單一數字」的迴歸基準 ScoringBench 上,微調版排第一;在約 300 個資料集的 TALENT 上屬於領先方法,類別數超過 10 的分類任務表現最強。

幾件事這篇公告沒有確立:微調加 bagging 在實際部署中的延遲與成本數字沒有公開;TALENT 的結果只有概括描述,沒有逐資料集細節;相對於 gradient boosting 基線的經濟性比較也未提供。採用前這些都得自己量。

Builder 該做什麼

分類版與迴歸版的模型、推理與微調程式碼都已經在 Hugging Face 上以 Apache-2.0 釋出,Amazon Connect Customer 團隊主導這項工作,並已把 Mitra-v2 用於結構化業務與客戶體驗資料的預測。這和開源權重模型近來的整體趨勢一致——之前談 GLM-5.2 開源發布時提過,能自己下載、自己驗證,才是評估的起點。

實際的下一步:拿你手上最大、最寬、類別最多的那張表試跑一次,特別量三個數字——微調加八副本 bagging 的推理時間、寬表經過 SVD 壓縮後的準確率損耗、以及對超過 10 個類別任務走階層樹路徑的表現。另外,迴歸版回傳的是預測區間而不只是點估計,如果你的業務決策依賴不確定性資訊,這是它相對傳統做法的一個實質差異點。

參考來源

原始貼文
AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. MiniMax M3.1 Flash 開放自訓練:把 1M 上下文模型調成你的 agent

    MiniMax M3.1 Flash 加入 Together AI 後訓練支援,可用自家資料跑 SFT 或 RL,並保留完整訓練迴圈控制權。

    Fine-tuning

  2. Qwen3.8-Flash-Next 發表:新架構把啟用參數壓到 6B

    2026 年 8 月 26 日,Qwen 開源 Qwen3.8-Flash-Next:125B 主模型加 51B n-gram 嵌入表,每個 token 只啟用 6B 參數,原生 262K 上下文,官方定位是極致成本效率。

    Qwen

  3. Ai2 拆解混合模型優勢:贏在內容詞,輸在複製

    Ai2 用資料與訓練配方完全對齊的 Olmo 3 與 Olmo Hybrid 逐 token 比較損失,發現混合架構在內容詞上明顯佔優,但在逐字複製與右括號上優勢消失,顯示循環層擅長語意狀態追蹤、注意力擅長複製。

    Ai2