AGENTIC COMMONSAI 產業簡報

繁中EN

主題AI 安全與防護出版

返回文章列表

Anthropic RSP 3.0:拿掉「危險模型自動暫停」承諾

本頁內容6 個段落
  1. 原本的承諾長什麼樣子
  2. RSP 3.0 的三項實質調整
  3. Anthropic 端提出的解釋
  4. 各方怎麼看
  5. 開發者與企業該注意什麼
  6. 資料來源

摘要: Anthropic 在 2026 年 2 月 24 日發布 RSP 3.0,移除模型接近危險能力門檻就自動暫停開發的承諾。新版改為承諾匹配或超越競爭對手的安全努力,並增加內部措施與產業建議脫鉤、公開路線圖與定期風險報告。

2026 年 2 月 24 日,Anthropic 公開了 Responsible Scaling Policy 的第三版(RSP 3.0)。TIME 搶先以獨家報導處理,直接形容 Anthropic「放棄旗艦安全承諾」;到了 2 月 25 日,CNN 與 WSJ 也相繼跟上。這家把安全掛在創立招牌上的公司,等於親手改寫了自己最廣為人知的那條安全規則。

整份更新濃縮之後,核心只剩一件事:過去那句「模型接近危險能力門檻就自動暫停開發」的承諾,如今不存在了。新版政策寫得明白:假使某家開發者停下腳步去落實安全措施,同業卻在沒有緩解措施的情況下照常訓練與部署,最終結局可能是「一個更不安全的世界」——「防護最弱的開發者設定節奏,負責任的開發者將失去做安全研究的能力」。根據 Anthropic 的說法,這段文字獲得執行長 Dario Amodei 與董事會的一致同意。

原本的承諾長什麼樣子

時間拉回 2023 年 9 月,RSP 首次問世,本質是一套自願採用的 if-then 架構:只要模型能力觸及某道門檻(以 ASL 層級標示),對應等級的安全措施就必須先行就位。這套框架的影響力從不局限於一家公司:OpenAI 與 Google DeepMind 在幾個月內相繼採用類似設計,加州 SB 53、紐約 RAISE Act,乃至 EU AI Act 的行為準則,都留有它的痕跡。自 2025 年 5 月起,Anthropic 的前沿模型便一直運行於 ASL-3 防護之下。

舊版真正咬合的條款,是嚴格的模型安全措施須在訓練展開前備妥——TIME 稱之為「鐵板一塊」的保證。暫停機制自始至終一次也沒派上用場,但整套自願安全論述正是靠它壓陣。

RSP 3.0 的三項實質調整

具體條文可以整理成三處。

其一,自動暫停的承諾被整段移除。新版之下,唯有領導層同時認定「Anthropic 是競賽領先者」以及「災難風險顯著」,延後開發才會納入考慮;取而代之的承諾,是「匹配或超越競爭對手的安全努力」。

其二,公司自訂標準與產業建議正式脫鉤:一套緩解措施規範自家系統,另一套則以建議形式提供給整個產業。

其三,Frontier Safety Roadmap 與風險報告屬於新增項目。Roadmap 是一份公開、不具約束力的目標清單,公告列舉的例子有:資安研發 moonshot、自動化紅隊超越人類 bug bounty 的貢獻、模型憲法遵循措施、以 AI 分析內部紀錄來偵測內部威脅,外加一份「監管階梯」政策路線圖。風險報告以每 3 至 6 個月為週期對外發布,特定情況下並引入第三方專家審查,且專家可閱讀未刪節內容。

Anthropic 端提出的解釋

面對 TIME,共同創辦人暨首席科學家 Jared Kaplan 講得毫不拐彎:「我們認為停止訓練模型對任何人都沒有好處」;他接著說,「在 AI 快速進展下,如果競爭對手猛衝,單方面承諾對我們沒有意義」。

官方公告另外搬出幾個結構性理由:能力評估帶有「模糊地帶」,當模型逼近、卻無法確認已跨越門檻時,舊機制對此毫無對策;想單方面達到 RAND 建議的 SL5 資安等級,「目前不可能」;政治與監管氛圍也早已轉向。TIME 補上商業側的背景:Anthropic 才在 2 月以約 3,800 億美元的估值募得 300 億美元,年化營收正以每年約十倍的幅度攀升。Mashable 引述 Axios 的報導指出,美國國防部曾向 Anthropic 施壓,要求開放軍事應用,否則將施以限制。

各方怎麼看

METR 的政策總監 Chris Painter 向 TIME 表示,AI 實驗室眼下如同處於「分診模式」,而「社會還沒準備好」。他的疑慮在於:二元門檻一旦被拿掉,風險便會以「溫水煮蛙」的方式緩緩堆高,原先清晰的絆網隨之消失。倡議團體 Transparency Coalition 則將此事視為「自願承諾不可靠」的又一例證,主張把標準寫進法律。

不過有個對照值得留在紀錄上:Anthropic 在同一段時間也加碼透明度——新版 RSP、定期出版的風險報告,再加上 1 月以 CC0 授權全文公開的 Claude 憲法,走的都是「公開可供檢驗」路線。換句話說,被放掉的是暫停這項硬承諾,被留下的是揭露這項軟承諾。

開發者與企業該注意什麼

對實務圈的衝擊可列成三點。首先是採購與治理:把「模型商自我約束」當最後一道保險的做法,如今正式被競爭邏輯蓋過——該畫的紅線,請自己寫進合約與評估流程。其次是政策:加州 SB 53、紐約 RAISE Act 這類把 RSP 思路寫入州級法律的法案,參考價值不受影響,但「自願框架已足夠」的論述被框架的原始發明人自己削弱,立法派因此拿到新彈藥。最後是產業動態:OpenAI 與 Google DeepMind 手上的同類框架會不會跟著修改,是下一個值得緊盯的訊號——一旦三家一起鬆手,「競逐底線」便不再是口號,而是現況描述。

資料來源

AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. 聯邦法官暫阻五角大廈將 Anthropic 列為供應鏈風險

    2026 年 3 月 26 日,舊金山聯邦法官 Rita Lin 核發初步禁制令,暫時擋下國防部將 Anthropic 列為「供應鏈風險」的認定,並直指此舉是「典型非法的第一修正案報復」。禁制令一週後生效,行政部門可上訴,五角大廈仍可汰換 Claude。

    Anthropic

  2. 川普下令聯邦機構停用 Anthropic:AI 安全紅線引爆的封殺戰

    2026 年 2 月 27 日,川普指示聯邦機構停用 Anthropic 技術,五角大廈將其列為「供應鏈風險」。起因是 Anthropic 拒絕在無安全保證下開放軍用,本文解析這場 AI 產業史上首見的政府封殺戰。

    Anthropic

  3. 選舉級的 red team:Anthropic 用資料與外部審查替 2026 中期選舉做準備

    Anthropic 公布中期選舉前的防護部署:25 萬則對話分析、外部機構壓力測試,以及拆解多步驟濫用的新分類器。

    Anthropic