AGENTIC COMMONSAI 產業簡報

繁中EN

標籤Google DeepMind出版

返回文章列表

DeepMind GenCeption:影片生成模型就是通用視覺學習器

本頁內容6 個段落
  1. 主論點:把生成當成預訓練
  2. GenCeption 的運作方式
  3. 數據最多省 500 倍,還扳倒專家模型
  4. 泛化自己長出來:合成人類一路通到真實機器人
  5. 這對視覺基礎模型路線代表什麼
  6. 資料來源

摘要: Google DeepMind領軍的團隊於7月10日在arXiv發表GenCeption研究,主張文字轉影片模型可作為通用視覺智慧的基礎預訓練途徑。論文稱該模型在深度、法向量、相機姿態、指代分割與3D關鍵點上達到當時SOTA,且達到對照水準最多可省500倍訓練資料。作者已開源14B與1.3B檢查點,但擴展結論仍屬初步證據。

Google DeepMind 領軍、網羅 MIT、牛津、UCL、多倫多大學與隆德大學等機構研究人員的團隊,7 月 10 日在 arXiv 發表論文《Video Generation Models are General-Purpose Vision Learners》,文章並已確定獲 ECCV 2026 接受,隨後在 7 月 13 日現身 Hugging Face Daily Papers。這份研究想傳達的訊息,歸結起來就是一句話:能把文字變成影片的生成模型,功能不僅止於產出影片,它本身就是一條通往通用視覺智慧的基礎預訓練途徑。

主論點:把生成當成預訓練

論文一開場就點出一個對照:NLP 正是靠下一詞元預測,才從一個個只做單一事務的模型,蛻變成通用基礎模型;放到視覺上,對應的預訓練範式又該是什麼?團隊的答覆是大規模文字轉影片生成,並列出三項依據:它帶有時空先驗、它讓視覺與語言互相對齊、它的擴展性會跟著資料與算力一起上升。換個角度講,模型要把影片真的生成出來,就非得弄懂深度、幾何、動態與物理一致性不可——而這些恰好是各類感知任務賴以運作的表徵。站在表徵層次來看,生成與理解是同一門課。

這套論述的來龍去脈並不難追。視覺圈曾靠遮罩式自編碼器與對比式預訓練,建立起屬於這個領域的基礎骨幹;晚近的 V-JEPA 等自監督影片模型,則在不動用生成目標的條件下追求同一個目標。這篇論文押的注是:生成路線才撐得起擴展——能把連貫影片合成出來的模型,照定義就握有一份堪用的場景結構內在模型。

GenCeption 的運作方式

為了把上述主張放到檯面上檢驗,團隊打造了 GenCeption:一個拿預訓練文字轉影片擴散模型當骨幹的前饋感知模型。它沒有替任何任務量身訂做架構,而是以文字指令下達要求,一趟前向傳播就能交出深度圖、表面法向量、相機姿態、依文字指代選出目標的分割,以及三維關鍵點等輸出。微調階段的主要素材是合成資料,等於把一個懂得「拍片」的模型,調校成懂得「看片」的通才感知器。這條路若真走得通,視覺研究的重心就會從設計任務專用網路,挪到如何在強大的生成骨幹上問出正確問題。

數據最多省 500 倍,還扳倒專家模型

實驗範圍橫跨深度估計、表面法向量、相機姿態、指代分割與三維關鍵點預測,GenCeption 在每一項都站上當時的 SOTA;對上 DepthAnything3、SAM3、D4RT、VGGT-Omega、Sapiens、Lotus-2 這批任務專用模型,成績不是持平便是超前;把設定拉到一致時,V-JEPA、VideoMAE V2 等自監督預訓練路線同樣被比下去。最亮眼的還是資料效率:照論文的說法,GenCeption 要達到 D4RT、VGGT-Omega 那樣的水準,訓練資料最多可以省下 500 倍、至少 7 倍。論文另附初步的模型與資料擴展實驗,看得出這條路線離天花板還遠。

泛化自己長出來:合成人類一路通到真實機器人

真正撐起「基礎模型」這個頭銜的證據是泛化。微調階段模型只接觸過合成的人類影片,換到真實世界拍攝的素材卻能直接上手,對訓練裡從沒出現過的類別——動物、機器人——依舊給出合理的感知結果,畫面裡同時有多個實例也應付得來。零樣本的模擬到真實遷移,過去多半得靠針對域差距下重本的設計,在這裡卻像是生成式預訓練順手帶出來的本事。對想打造離開實驗室還活得下去的感知系統的人來說,這份特質比排行榜上那一名半名的差距值錢得多。

這對視覺基礎模型路線代表什麼

程式碼與權重已由團隊以 Apache 2.0 授權開源在 google-deepmind/representations4d 儲存庫,內容包含 14B 與 1.3B 兩種尺寸的 GenCeption 檢查點,另有 VAE 與示範 notebook,骨幹用的是 WAN 2.1。研究端的門檻因此明顯下修:要做深度估計,不必再從零設計一個深度模型。該儲存庫還一併納入 Scaling 4D Representations、MooG、RVM、Omnivorous DINO 四項相關研究,可以看出 DeepMind 把生成式 4D 表徵當成一項長期計畫在經營,而不是交出一篇論文就收工。應用端則有兩件事得放冷靜:擴散骨幹的推理成本不便宜,要上即時場景得先算清楚;連論文自己都把擴展結論標成初步證據。不過大方向已經攤在眼前——影片生成模型累積下來的知識,正在變成整個電腦視覺領域都能繼承的資產。

資料來源

AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. Thinking Machines 互動模型:把即時對話訓練進模型本體

    Thinking Machines Lab 發表「互動模型」研究預覽:276B 參數 MoE、12B 啟動,以 200 毫秒微回合實現全雙工語音視訊互動,FD-bench 77.8 領先 GPT-realtime-2.0 與 Gemini Live,並由背景模型補足推理與工具呼叫。

    Multimodal AI

  2. Google Project Genie 上線:世界模型即時生成可玩世界,遊戲股應聲重挫

    Google 於 1 月 29 日向 AI Ultra 訂閱者開放 Project Genie,首個基於 Genie 3 世界模型的公開產品,可從文字與圖片即時生成可互動 3D 世界。次日 Unity 一度暴跌近 24%,遊戲股全面下挫。

    Google DeepMind

  3. Gemini 3.8 Flash 價格 2027 年翻倍:Cyber 版 CWE-Bench 47.2%

    第三個 Flash 六週內上線:入門價 2027 年翻倍,Flash Cyber 以 CWE-Bench 47.2% 逼近旗艦,兩小時找到重大漏洞。

    Gemini 3.8 Flash