當 AI 開始處理真正開放的研究問題,瓶頸往往不再是模型本身,而是沒有人有資格當評審。人類專家看不懂結果,自然也給不出有用的修正方向。Sakana AI 在 2026 年 10 月 12 日發表的論文裡,正面處理這個問題:如果模型自己就是目前最好的 optimizer 和 evaluator,那自我監督要怎麼做才不會變成盲點的自我強化?
一個模型,一整個團隊
他們提出的方法叫 Multi-Agent Self-Supervision(MASS)。運作方式是:同一個共享模型派出多個虛擬 subagent 解任務,接著搜尋更好的多代理工作流程,再用自己的判斷挑出最好的流程。最後,把最佳團隊的執行軌跡拿去訓練,把團隊的集體經驗蒸餾回共享模型本身。
實驗用了一個 27B 的 open-weights 模型,在合成的開放式研究任務上跑了兩輪。第二輪之後,換算成每個 output token 的分數,在四個研究基準上達到基礎模型的 1.2 到 1.6 倍。
三個對 builder 有意義的發現
第一,角色會泛化。他們只用 optimizee 的解題資料訓練,結果 optimizer 和 evaluator 的能力也一起變好。這代表在 RSI(recursive self-improvement)迴圈裡,你不一定要為每個角色準備獨立的訓練資料。
第二,多代理軌跡是比單代理軌跡更有效率的訓練資料。如果你本來就在收集 agent 的執行 log,這個結論值得注意——同樣一批資料,多代理版本可能蒸餾出更多能力。
第三個發現對系統設計最有直接影響:瓶頸在 optimizer 的容量,而不是 evaluator。也就是說,砸資源加強「評審」不會加速進步,要加速得讓「做事」的那一側更強。這和在 agent 開發裡把決策與執行塞進同一條流程的取捨邏輯是同一類問題,可以參考之前討論過的把思考塞進工具呼叫的做法。
安全性不是附註
Sakana AI 在文章裡明講:homogeneous RSI 需要社群仔細研究,因為當模型同時是自己的 evaluator,共同的盲點可能讓錯誤被當成進展,再透過訓練被強化。這不是流程裡的一行免責聲明,而是這條路線的核心風險——模型要超越人類專家的水準,前提是我們得先知道怎麼偵測並介入這類失敗。
這點對在產品裡跑 agent 的團隊是個提醒:自我評估迴圈看起來省人力,但它省掉的那一層,正好是原本能攔住系統性錯誤的那一層。
下一步可以做的事
論文、程式碼和詳細內容都是公開的:arXiv 編號 2610.12176,程式碼在 SakanaAI 的 GitHub 上。研究由 Hyunin Lee、Jinglue Xu 等人與 UC Berkeley 的合作者(包含 Matei Zaharia)共同完成。27B 的 open-weights 起點代表這不是只有大實驗室能重現的實驗,對想研究 agent 訓練資料品質的團隊來說,是一個可以直接檢視的素材。
比較實際的限制:實驗是在合成任務上做的,兩輪之後 1.2 到 1.6 倍的提升能不能延續到更多輪、搬到真實研究任務上,仍是要驗證的問題。
