AGENTIC COMMONSAI 產業簡報

繁中EN

主題AI 安全與防護出版 2026-10-15

返回文章列表AI Training

Ineffable Intelligence:放棄人類資料,讓 AI 自己發現知識

摘要: 曾主導 AlphaGo 的 David Silver,離開 Google DeepMind 後創立 Ineffable Intelligence,並在美國時間 10 月 13 日 Sequoia Capital 的 Podcast《Training Data》上說明他的賭注:不用海量人類資料預訓練,而是讓 AI 在模擬環境「熔爐」中從零自學。這家 20 人公司今年 4 月募得 11 億美元種子輪,對想做 AI 產品的開發者來說,這是一場關於「資料從哪來」的根本性路線辯論。

為什麼不做 LLM?

Silver 的理由很務實:全世界已有數萬甚至數十萬名研究者走 LLM 路線,「我要當第 100,001 個人嗎?」他並未否定 LLM 的成果,也承認大資料預訓練模型的微調效率改變了他的想法,但他認為目前的突破仍依賴大量「人在迴圈中」的人工介入,還不算完全自主。

更深一層的分歧是人類資料本身。以控制電漿、基地台、機械手臂這類任務為例,Silver 認為用語言思考未必是對的範式,人類語言還會一併帶入人類偏見——如果只能用幾百年前的語言推理,AI 可能會相信地球是平的。

「熔爐」的做法:不撒麵包屑

目標被他稱為「超級學習者」:深度上從一無所知出發、發現遠超人類的知識;廣度上無論放進模擬、數位或實體世界都能持續學習。做法有兩塊:大規模強化學習架構,以及讓 AI 自行發現知識的模擬環境。

和許多 LLM 訓練不同,他們不會「沿路撒麵包屑」把 AI 引向特定答案,只給簡單目標、放進複雜環境。共同創辦人 Lasse Espeholt 說,完全擬真的物理運算成本太高,因此會建立一系列由簡到繁的熔爐。細節尚未公開,只說複雜度可能來自數百萬個互動物件的物理引擎,或數百萬個彼此互動的 AI。

這套思路的依據來自棋類:靠人類棋譜的 AlphaGo 花了約兩年才擊敗李世乭;放棄人類資料的 AlphaZero 只訓練 4 小時就擊敗當時最強的西洋棋 AI。Silver 把放棄人類資料形容為「短期的犧牲」換取更高的上限——這對 builder 的啟示很直接:有時候丟掉既有的示範資料,反而能換來不同的解空間。

模擬更快也更安全,但有天花板

Silver 認為在模擬中打造超級智慧,速度可快上 10 到 100 倍,也是最安全的場所。但他同意 2024 年圖靈獎得主 Rich Sutton 的保留意見:模擬中學到的東西未必能轉移到真實世界。他的做法是先在模擬中找出學習方法,逐步提高擬真度確認有效,才放進現實;Espeholt 也坦言模擬「在某處終究有天花板」。

安全上,他認為依賴語言資料的對齊方法開始碰到極限,AI 可能說一套做一套。他提出的監控方式不依賴語言,例如「影子行動」:觀察 AI 被允許行動時會怎麼做,但不讓它真的執行。

值得追的兩個時間點

這些說法都出自創辦團隊在投資方節目中的自述,仍待研究成果驗證。Espeholt 表示他們是 Google Cloud 上最大叢集的首批客戶,年底啟用 Nvidia Vera Rubin 機架;Silver 則預測一年內會看到「方向正確的強力證據」,並把超級智慧的時間表從 3 到 5 年縮短到 3 年,同時強調「研究永遠沒有保證」。

在此之前,這條路線最具體的證據仍限於圍棋、西洋棋這類格局有限的棋類。如果你對這家公司已經有印象,可以回看我們先前寫過的成立與募資那篇。實際追蹤時,建議盯著熔爐細節的公開程度,以及強化學習在 GPU 上跑模擬的 scaling laws 進展——這兩件事會決定這場 11 億美元的賭注能否兌現。

參考來源

AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. Meta 把安全門檻提前到訓練階段:對 builder 意味著什麼

    Meta 更新 Superintelligence Scaling Framework,把防護要求從部署前延伸到訓練與評估階段,並為 open-weight 釋出補上治理細節。

    AI Safety

  2. MosaicLeaks 基準:研究代理的對外查詢正在洩漏企業機密

    ServiceNow 團隊發布 MosaicLeaks 基準:深度研究代理混合私有文件與網路搜尋時,攻擊者只看外流查詢紀錄就能拼出企業機密,而 PA-DR 訓練法把洩漏率從 34% 壓到 9.9%。

    Benchmarks

  3. OpenAI 的「哥布林」之謎:獎勵機制如何悄悄塑造模型行為

    OpenAI 公開調查 GPT-5.1 以來模型頻繁提及「哥布林」等生物的現象,發現源於「Nerdy」個性訓練的獎勵訊號,並因回饋迴圈擴散。本文拆解根因、傳播機制與教訓,對產品開發者與 AI 學習者深具啟發。

    AI Safety