當整個產業都在往大型語言模型堆資源時,Yann LeCun 押注的是另一件事:他認為光靠語言模型,AI 無法真正理解物理世界,也無法預測自己行動的後果。根據 TechOrange 在 2026 年 10 月 12 日的報導,他在 2025 年底離開 Meta、創辦 AMI Labs,並於今年 3 月完成 10.3 億美元種子輪融資之後,與 AMI Labs 及學界研究人員共同提出了新架構 H-JEPA。
單層世界模型的瓶頸
LeCun 長期研究的 JEPA(聯合嵌入預測架構),做法是不逐一生成影像像素,而是把觀察轉換成潛在表徵,學習並預測環境狀態。《VentureBeat》指出,這類單層世界模型有個現實難題:一旦任務需要長期規劃,模型就必須模擬大量細微步驟,運算成本上升,預測誤差也會一路累積。
四足機器人走迷宮就是典型例子。決定路線時,它需要知道自己的位置、障礙物和終點;但控制每一步移動,又得掌握腿部關節姿勢。如果兩件事共用同一套環境表徵,模型就被迫同時處理長期目標和低階細節。
H-JEPA 的做法:分層規劃、各層有自己的表徵
H-JEPA(Hierarchical JEPA)的核心改動,是讓世界模型不再只用單一層級預測,而是在不同時間尺度上分別學習環境表徵。根據 H-JEPA 官方研究網站,架構採由粗到細的分層規劃:最高層朝最終目標規劃、提出中間子目標,下一層再逐步細化,最底層才產生機器人實際執行的動作。各層在自己的表徵空間中預測,下層規劃時利用上層的表徵空間評估是否接近子目標,執行部分動作後再根據新觀察重新規劃。
值得注意的是,研究人員只預先設定各層的時間間隔,並不指定每層該記住什麼,而是透過端到端訓練讓模型自己學。在迷宮實驗中,高層表徵保留了位置資訊,卻逐漸捨棄腿部姿勢這類快速變動的細節。對 builder 來說,這是一個熟悉的取捨:與其手動設計抽象層,不如讓訓練過程自己長出來——這和我在另一篇談同一模型組隊自我監督時提到的自改進迴圈,其實面對的是類似問題(可參考這篇對 MASS 的整理:/blog/sakana-mass-multi-agent-self-supervision/)。
數字與邊界
研究團隊在四種模擬導航與物件操作環境中測試,與單層 JEPA 模型 LeWM 及另一種階層式世界模型 HWM 比較。最顯著的結果在 Visual AntMaze:單層模型成功率 18%,三層 H-JEPA 達到 73%,約為 4 倍,而且使用的規劃運算量更少。消融實驗顯示,改善不只來自把任務拆成不同時間長度,也包括高層學到了更適合目標規劃的表徵。
團隊也用真實機器人操作影片資料集 DROID 做離線評估:加入逆動力學訓練訊號後,分層架構讓規劃出的機械手臂運動軌跡更接近專家示範,同樣降低了規劃運算量。
但有兩個限制必須說清楚。第一,主要成果來自模擬環境與真實資料的離線評估,不代表實體機器人已能自主完成長期任務。第二,研究發現增加層級並非總能帶來更好表現——分層不是免費的。
對 builder 的實際意義
如果你在做的是需要長程規劃的 agent 或機器人系統,H-JEPA 展示的方向很具體:與其讓一個模型在一個潛在空間裡硬撐所有時間尺度,不如讓不同層級各自學習適合自己粒度的表徵。這個原則不只適用機器人,任何涉及「目標層決策」和「執行層細節」分離的系統都可以借鏡。
不過在動手之前,記得這項研究還停在模擬與離線階段。合理的下一步是追蹤後續是否出現真實環境的部署驗證,而不是急著把層級數量當成調參指標——論文自己都說了,層越多不一定越好。
