摘要: 曾主導 AlphaGo 的 David Silver,離開 Google DeepMind 後創立 Ineffable Intelligence,並在美國時間 10 月 13 日 Sequoia Capital 的 Podcast《Training Data》上說明他的賭注:不用海量人類資料預訓練,而是讓 AI 在模擬環境「熔爐」中從零自學。這家 20 人公司今年 4 月募得 11 億美元種子輪,對想做 AI 產品的開發者來說,這是一場關於「資料從哪來」的根本性路線辯論。
為什麼不做 LLM?
Silver 的理由很務實:全世界已有數萬甚至數十萬名研究者走 LLM 路線,「我要當第 100,001 個人嗎?」他並未否定 LLM 的成果,也承認大資料預訓練模型的微調效率改變了他的想法,但他認為目前的突破仍依賴大量「人在迴圈中」的人工介入,還不算完全自主。
更深一層的分歧是人類資料本身。以控制電漿、基地台、機械手臂這類任務為例,Silver 認為用語言思考未必是對的範式,人類語言還會一併帶入人類偏見——如果只能用幾百年前的語言推理,AI 可能會相信地球是平的。
「熔爐」的做法:不撒麵包屑
目標被他稱為「超級學習者」:深度上從一無所知出發、發現遠超人類的知識;廣度上無論放進模擬、數位或實體世界都能持續學習。做法有兩塊:大規模強化學習架構,以及讓 AI 自行發現知識的模擬環境。
和許多 LLM 訓練不同,他們不會「沿路撒麵包屑」把 AI 引向特定答案,只給簡單目標、放進複雜環境。共同創辦人 Lasse Espeholt 說,完全擬真的物理運算成本太高,因此會建立一系列由簡到繁的熔爐。細節尚未公開,只說複雜度可能來自數百萬個互動物件的物理引擎,或數百萬個彼此互動的 AI。
這套思路的依據來自棋類:靠人類棋譜的 AlphaGo 花了約兩年才擊敗李世乭;放棄人類資料的 AlphaZero 只訓練 4 小時就擊敗當時最強的西洋棋 AI。Silver 把放棄人類資料形容為「短期的犧牲」換取更高的上限——這對 builder 的啟示很直接:有時候丟掉既有的示範資料,反而能換來不同的解空間。
模擬更快也更安全,但有天花板
Silver 認為在模擬中打造超級智慧,速度可快上 10 到 100 倍,也是最安全的場所。但他同意 2024 年圖靈獎得主 Rich Sutton 的保留意見:模擬中學到的東西未必能轉移到真實世界。他的做法是先在模擬中找出學習方法,逐步提高擬真度確認有效,才放進現實;Espeholt 也坦言模擬「在某處終究有天花板」。
安全上,他認為依賴語言資料的對齊方法開始碰到極限,AI 可能說一套做一套。他提出的監控方式不依賴語言,例如「影子行動」:觀察 AI 被允許行動時會怎麼做,但不讓它真的執行。
值得追的兩個時間點
這些說法都出自創辦團隊在投資方節目中的自述,仍待研究成果驗證。Espeholt 表示他們是 Google Cloud 上最大叢集的首批客戶,年底啟用 Nvidia Vera Rubin 機架;Silver 則預測一年內會看到「方向正確的強力證據」,並把超級智慧的時間表從 3 到 5 年縮短到 3 年,同時強調「研究永遠沒有保證」。
在此之前,這條路線最具體的證據仍限於圍棋、西洋棋這類格局有限的棋類。如果你對這家公司已經有印象,可以回看我們先前寫過的成立與募資那篇。實際追蹤時,建議盯著熔爐細節的公開程度,以及強化學習在 GPU 上跑模擬的 scaling laws 進展——這兩件事會決定這場 11 億美元的賭注能否兌現。
