摘要: Google DeepMind領軍的團隊於7月10日在arXiv發表GenCeption研究,主張文字轉影片模型可作為通用視覺智慧的基礎預訓練途徑。論文稱該模型在深度、法向量、相機姿態、指代分割與3D關鍵點上達到當時SOTA,且達到對照水準最多可省500倍訓練資料。作者已開源14B與1.3B檢查點,但擴展結論仍屬初步證據。
Google DeepMind 領軍、網羅 MIT、牛津、UCL、多倫多大學與隆德大學等機構研究人員的團隊,7 月 10 日在 arXiv 發表論文《Video Generation Models are General-Purpose Vision Learners》,文章並已確定獲 ECCV 2026 接受,隨後在 7 月 13 日現身 Hugging Face Daily Papers。這份研究想傳達的訊息,歸結起來就是一句話:能把文字變成影片的生成模型,功能不僅止於產出影片,它本身就是一條通往通用視覺智慧的基礎預訓練途徑。
主論點:把生成當成預訓練
論文一開場就點出一個對照:NLP 正是靠下一詞元預測,才從一個個只做單一事務的模型,蛻變成通用基礎模型;放到視覺上,對應的預訓練範式又該是什麼?團隊的答覆是大規模文字轉影片生成,並列出三項依據:它帶有時空先驗、它讓視覺與語言互相對齊、它的擴展性會跟著資料與算力一起上升。換個角度講,模型要把影片真的生成出來,就非得弄懂深度、幾何、動態與物理一致性不可——而這些恰好是各類感知任務賴以運作的表徵。站在表徵層次來看,生成與理解是同一門課。
這套論述的來龍去脈並不難追。視覺圈曾靠遮罩式自編碼器與對比式預訓練,建立起屬於這個領域的基礎骨幹;晚近的 V-JEPA 等自監督影片模型,則在不動用生成目標的條件下追求同一個目標。這篇論文押的注是:生成路線才撐得起擴展——能把連貫影片合成出來的模型,照定義就握有一份堪用的場景結構內在模型。
GenCeption 的運作方式
為了把上述主張放到檯面上檢驗,團隊打造了 GenCeption:一個拿預訓練文字轉影片擴散模型當骨幹的前饋感知模型。它沒有替任何任務量身訂做架構,而是以文字指令下達要求,一趟前向傳播就能交出深度圖、表面法向量、相機姿態、依文字指代選出目標的分割,以及三維關鍵點等輸出。微調階段的主要素材是合成資料,等於把一個懂得「拍片」的模型,調校成懂得「看片」的通才感知器。這條路若真走得通,視覺研究的重心就會從設計任務專用網路,挪到如何在強大的生成骨幹上問出正確問題。
數據最多省 500 倍,還扳倒專家模型
實驗範圍橫跨深度估計、表面法向量、相機姿態、指代分割與三維關鍵點預測,GenCeption 在每一項都站上當時的 SOTA;對上 DepthAnything3、SAM3、D4RT、VGGT-Omega、Sapiens、Lotus-2 這批任務專用模型,成績不是持平便是超前;把設定拉到一致時,V-JEPA、VideoMAE V2 等自監督預訓練路線同樣被比下去。最亮眼的還是資料效率:照論文的說法,GenCeption 要達到 D4RT、VGGT-Omega 那樣的水準,訓練資料最多可以省下 500 倍、至少 7 倍。論文另附初步的模型與資料擴展實驗,看得出這條路線離天花板還遠。
泛化自己長出來:合成人類一路通到真實機器人
真正撐起「基礎模型」這個頭銜的證據是泛化。微調階段模型只接觸過合成的人類影片,換到真實世界拍攝的素材卻能直接上手,對訓練裡從沒出現過的類別——動物、機器人——依舊給出合理的感知結果,畫面裡同時有多個實例也應付得來。零樣本的模擬到真實遷移,過去多半得靠針對域差距下重本的設計,在這裡卻像是生成式預訓練順手帶出來的本事。對想打造離開實驗室還活得下去的感知系統的人來說,這份特質比排行榜上那一名半名的差距值錢得多。
這對視覺基礎模型路線代表什麼
程式碼與權重已由團隊以 Apache 2.0 授權開源在 google-deepmind/representations4d 儲存庫,內容包含 14B 與 1.3B 兩種尺寸的 GenCeption 檢查點,另有 VAE 與示範 notebook,骨幹用的是 WAN 2.1。研究端的門檻因此明顯下修:要做深度估計,不必再從零設計一個深度模型。該儲存庫還一併納入 Scaling 4D Representations、MooG、RVM、Omnivorous DINO 四項相關研究,可以看出 DeepMind 把生成式 4D 表徵當成一項長期計畫在經營,而不是交出一篇論文就收工。應用端則有兩件事得放冷靜:擴散骨幹的推理成本不便宜,要上即時場景得先算清楚;連論文自己都把擴展結論標成初步證據。不過大方向已經攤在眼前——影片生成模型累積下來的知識,正在變成整個電腦視覺領域都能繼承的資產。
