AGENTIC COMMONSAI 產業簡報

繁中EN

標籤Machine Learning出版

返回文章列表

OIST 研究:讓 AI「自言自語」再配上工作記憶,學得更快也更會舉一反三

本頁內容6 個段落
  1. 主動推論:一種不必囤積資料的學習方式
  2. 內在語言配上工作記憶:這套架構如何分工
  3. 資料給得少,照樣泛化、照樣多工
  4. 接下來:迎向更嘈雜混亂的現實環境
  5. 給 AI 工程師的三個著力點
  6. 資料來源

摘要: OIST 在 2026 年 1 月 28 日公布研究,指 AI 配上多槽工作記憶與自我導向內在語言後,多工和多步驟任務表現明顯變好。在模式反轉與模式重建等受控任務中,工作記憶先改善泛化,加入喃喃自語目標後改善最多的是多工與長步驟情境。研究仍以簡化任務為限,下一步才要處理真實世界嘈雜環境,因此不能直接等同生產 agent 已解決。

沖繩科學技術大學院大學(OIST)在 2026 年 1 月 28 日公布了一項新研究:讓 AI 系統對自己「說話」,再配上模仿人類的工作記憶,它在多工與多步驟任務上的成績會明顯變好,過程中完全不必倚賴龐大的訓練資料。這篇題為〈Working Memory and Self-Directed Inner Speech Enhance Multitask Generalization in Active Inference〉的論文,已於 2025 年 12 月 22 日登上 MIT Press 期刊《Neural Computation》。

當整個主流路線習慣把每一步進展都記在更大的模型、更大的資料集帳上,這份研究給出了另一種證據:在架構層級加入認知機制——工作記憶與內在語言——照樣能換到泛化能力,而且付出的成本低了不少。資料難以取得、預算吃緊的團隊,值得把這條路線列入認真考慮的選項。

主動推論:一種不必囤積資料的學習方式

這項研究由 OIST 的認知神經機器人學研究室完成,第一作者為 Staff Scientist Jeffrey Queißer,Jun Tani 則擔任共同作者。團隊採用的「主動推論」(active inference)框架運作邏輯不同:系統並非被損失函數最小化推著走,而是一面持續預測自己接收到的感官輸入、一面修正預測誤差,據此更新對世界的內部模型。這個方法出自計算神經科學,骨子裡就偏向「用比較少的資料掌握結構」。

Queißer 向 OIST 的報導說明了研究動機:快速切換任務、解決陌生問題,是人類每天都能輕鬆辦到的事,卻恰恰是當今 AI 的顯著弱點;人之所以做得到,靠的正是自我對話與工作記憶這類認知工具。他表示:「這項研究突顯了自我互動在我們學習過程中的重要性。」

內在語言配上工作記憶:這套架構如何分工

撐起這篇論文的是兩個彼此搭配的元件:

  • 多槽工作記憶:設置好幾個短期「容器」,系統處理任務時可以把關鍵資訊先存進去、之後反覆拿出來用,不必看完就丟。
  • 自我導向的內在語言:研究團隊稱之為「喃喃自語」(mumbling)目標——要求系統對自己「說話」固定的次數,把中間的推理歷程攤到檯面上,再送回決策迴路。

實驗的發現可以分兩層來看。在模式反轉(pattern-reversal)、模式重建(pattern-regeneration)這類難度不一的任務裡,光靠多槽工作記憶就已經讓泛化變好;把自我喃喃目標再加進來,成績又往上多走一截,其中多工情境與長串步驟的任務改善得最搶眼。

資料給得少,照樣泛化、照樣多工

Queißer 特別點明,這套系統「能用稀疏資料運作,而不是一般訓練這類模型做泛化時所需的大量資料集」。這等於展示了一條輕量的路:泛化能力不必整包押注在資料量上。拿它對照當前 agent 應用最頭痛的兩個問題——任務一換就失靈、流程一長就漂移——這份研究起碼在受控環境裡證明,記憶結構與自我對話是真正下得了手的槓桿。

接下來:迎向更嘈雜混亂的現實環境

團隊下一步打算讓環境更髒、更吵。用 Queißer 的說法,真實世界裡「我們是在複雜、吵雜、動態的環境中做決策與解決問題」。長期來看有兩個目標:其一是弄清楚人類學習背後的神經基礎,其二是把這套學習能力搬進家用與農用機器人——在那些場景中,能不能切換任務、能不能應付陌生狀況,遠比在基準測試上衝高分來得要緊。

給 AI 工程師的三個著力點

有三件事值得帶走。第一,工作記憶的「槽位」設計,其實跟目前 agent 記憶體系裡 slot、scratchpad 的概念是同一回事,論文給出了把它直接接進學習目標的具體作法。第二,「要模型對自己說上幾次話」說穿了就是一種結構化的中間推理;它跟 chain-of-thought 不同的地方在於,這種行為被訓練目標約束,而不是靠提示詞玩出來的技巧。第三,當資料成本一步步變成擴張的瓶頸,認知架構這個方向的論文會愈來愈有工程上的參考價值——它不會取代規模化,但補上了規模化顧不到的那些角落。

資料來源

AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. 把兩階段訓練拿掉之後:SimpleDesign 對蛋白質設計流程的意義

    Apple 的 SimpleDesign 直接在資料空間訓練序列與結構共同設計模型,挑戰先訓練 autoencoder 的兩階段慣例。

    AI for Science

  2. Ai2 DiScoFormer:一次前向傳播算出密度與分數

    Ai2 團隊的 DiScoFormer 用單一 Transformer 從有限樣本同時估計機率密度與分數,在 100 維把分數誤差降為最佳核密度估計的約六分之一,並獲選 ICML 2026 口頭報告。

    Ai2

  3. Meta Brain2Qwerty v2:腦波轉文字達 61%

    Meta 發表 Brain2Qwerty v2:以腦磁圖搭配端到端深度學習與微調語言模型,將非侵入式腦波解碼文字的字準確率從過去的 8% 推升至 61%,並開源 v1 與 v2 的訓練程式碼。

    Meta