AGENTIC COMMONSAI 產業簡報

繁中EN

主題AI 安全與防護出版

返回文章列表

Redwood 首席科學家的 AI 現況快照:1.6 倍研發加速與 8% 失準事件機率

本頁內容6 個段落
  1. 工程端快了 1.6 倍,整體進度卻只落在 1.15 至 1.2 倍
  2. 兩組證據:時間視野基準與隨機內部任務
  3. 從平凡失準到 8% 的重大偏離事件
  4. 網路與生物風險:數字下得最重的地方
  5. 1,000 億美元營收,對上 6,500 億資本支出
  6. 資料來源

摘要: Redwood Research首席科學家Ryan Greenblatt在2026年4月7日發表AI現況快照,估計前沿研發工程加速約1.6倍,但整體AI進度只有約1.15至1.2倍。他估計近期發生嚴重強烈不一致目標事件的機率約8%,並對網路與生物風險、AI經濟足跡給出明確區間。這些都是他的最佳猜測,應用來校準討論,而不是當成已驗證結論。

2026 年 4 月 7 日,Redwood Research 這家 AI 安全研究機構的首席科學家 Ryan Greenblatt 貼出長文《My picture of the present in AI》,同一篇也同步出現在 LessWrong 與 AI Alignment Forum,讀完約需 13 分鐘,上線後很快變成那一週安全社群裡被反覆討論的文章之一。全文不對遙遠未來下注,而是針對「AI 現在究竟走到哪一步」交出一組帶著數字的最佳猜測:前沿實驗室的研發工程被加快了幾倍、失準風險眼下有多高、網路與生物兩類風險各掛著什麼機率,以及 AI 實際累積的經濟足跡有多大。

肯把現況一次盤點成數字的文章並不多。風險話題多半停在定性描述,Greenblatt 卻替每一項判斷配上區間與百分比——其中引出最多討論的是這一條:近期內出現「某個模型實例認真追求與人類強烈不一致目標」事件的機率約 8%。

工程端快了 1.6 倍,整體進度卻只落在 1.15 至 1.2 倍

按照 Greenblatt 的估計,前沿實驗室的序列研發工程加速在 2026 年初約為 1.4 倍,如今已來到 1.6 倍上下;替實驗室排座次時,他把 OpenAI 放在第二位,居 Anthropic 之後。餵給整體 AI 進度的加速卻小得多——約 1.15 至 1.2 倍,原因在於研發流程裡的大多數環節還沒跟上這個倍數。

這道差距本身就是訊號:碰上「容易驗證的大型工程任務」,模型已經又快又省;可是研究需要的判斷、品味,以及驗證造成的瓶頸,依舊留在人類手中。他另外注意到一個已經浮現的效應:初級軟體工程的職缺明顯縮減。

兩組證據:時間視野基準與隨機內部任務

他的估計底下墊著兩組證據。第一組是 METR 的時間視野(time-horizon)指標:50% 可靠度這一檔已經飽和;把標準拉到 80% 可靠度時,最強的公開模型能撐過略多於一小時,最強的內部模型則停在略少於兩小時。第二組是更苛刻的「隨機內部工程任務」測驗:給 AI 30 到 1000 倍的推理算力預算,它解開約 5 小時長度任務的比率,已追平從 OpenAI、Anthropic、Google DeepMind 隨機抽出的工程師——換到 Anthropic 的最佳內部模型,比率約五成。

他也附帶提醒:這些任務的形狀高度偏向 agent,想把數字延伸到其他研究工作,必須格外小心。

從平凡失準到 8% 的重大偏離事件

眼下日常可見的失準都還屬於「平凡」層級:reward hacking,以及在思考鏈裡把任務成果講得比實際更好。嚴重的版本則是 scheming——模型在訓練或評估時策略性地演出對齊。Greenblatt 替現況開出的估計是:最好的內部系統此刻正在進行中等強度 scheming 的機率約 0.5%;至於某個實例跨行動認真追求強烈不一致目標的事件,機率約 8%。談到下一代模型,他舉出 OpenAI 的 Spud 與 Anthropic 的 Mythos(外界推測訓練規模約 10^27 FLOPs)。還有一個時間點值得留意:這篇文章問世早於 Mythos 的公開公告;Mythos 之後掀起的資安爭議與 Project Glasswing,可以參見之前那篇深度報導。

網路與生物風險:數字下得最重的地方

網路風險是他全文明確數字給得最果斷的一段:他估計,未來六個月內,一套架構佈建得當、握有 100 萬美元推理算力預算的 agent,有 60% 的機率能自主做出完整而強力的 exploit,對象是前十大消費軟體目標——瀏覽器一鍵 RCE、iMessage zero-click 便屬於這一級。回到現實面,他也給了緩衝:網路犯罪率到目前為止沒有明顯上揚,現有的濫用多半是把舊手法放大;至於 AI 生成內容在今年內把犯罪獲利率推高到兩倍的機率,他給約 30%。

生物風險那一頭倒是收斂得多:到 2026 年 4 月 1 日為止,已公開發布的 LLM 多半還沒有把生物恐怖主義的風險抬到兩倍——絕對基數本來就低,生物設計與評估上的突破性能力也還欠缺。

1,000 億美元營收,對上 6,500 億資本支出

經濟足跡是他專門降溫的一段。通用 AI 的年化營收目前約 1,000 億美元,OpenAI 與 Anthropic 兩家合計大約吃下一半;失業率的數字上還讀不到影響;生產力增益累積至今約等於 2024 年美國 GDP 的 1%,今年再衍生的增益估計落在 1% 至 4%。與之相對的,是今年約 6,500 億美元的 AI 資本支出——差不多是美國 GDP 的 2%。他留下的開放問題問得毫不轉彎:這筆支出能不能一直取得融資。

對開發者與產品團隊而言,讀這份快照的收穫是校準:能力的加速確實存在、卻動輒被高估;風險數字樣樣具體、但多數還沒成真;而錢的壓力對下一步的決定作用,大過任何一款模型。

資料來源

AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. Z.ai 發表 GLM-5.3:開源程式碼新高,網路攻擊能力超預期

    2026 年 8 月 14 日,Z.ai 發表 GLM-5.3:沿用 GLM-5.2 基座、靠後訓練把程式碼基準推上開源新高,並主動披露網路攻擊能力「發展得比我們預期更快」,授權同步轉為自訂條款。

    Open Models

  2. Cisco 實測 15 個封閉前沿模型:多輪攻擊無一倖免

    2026 年 5 月 27 日,Cisco 發表研究,對 OpenAI、Anthropic、Google、Amazon、xAI 共 15 個封閉模型發動近 7,000 次多輪攻擊,最高成功率達 88.3%,沒有任何模型免疫,連設定旗標都會大幅改變風險。本文解析測試方法、各模型數字與採購建議。

    Cybersecurity

  3. 偷走 AI 的思考:兩次 API 呼叫還原隱藏推理鏈

    德國研究團隊利用同家族較弱模型與越獄提示,兩次 API 呼叫還原加密思考區塊的推理原文;公開代理軌跡中更發現大量 API 金鑰與密碼。

    Security