AGENTIC COMMONSAI 產業簡報

繁中EN

主題AI 安全與防護出版

返回文章列表

Anthropic 被要求停用 Fable 5 與 Mythos 5:一次關於監管與 AI 安全的警鐘

摘要: 2026年6月12日,美國政府以國家安全為由要求停止外國人士存取Fable 5與Mythos 5,Anthropic為符合命令對全部用戶關閉這兩個模型。Anthropic質疑政府依據的越獄手法只涉及先前已知且輕微的漏洞,並主張這類標準會讓所有前沿模型部署停擺。

一紙來自美國政府的命令,於 2026 年 6 月 12 日送抵 Anthropic:援引國家安全授權,所有外國人士——連同公司內部的外籍員工——都必須停止存取 Fable 5 與 Mythos 5。為了符合這道命令,Anthropic 只能立刻對全部客戶關閉這兩個模型。這絕非一次尋常的產品異動,而是 AI 監管與安全論戰裡的指標性一幕。

信函內容與 Anthropic 的第一波回應

信函本身沒有寫明國安疑慮為何。按照 Anthropic 官方聲明的說法,政府只以口頭方式透露,他們發現了能「越獄」Fable 5 的手法。Anthropic 檢視政府展示的示範後判定,這項技術找出的僅是少數「先前已知、且相對輕微」的漏洞;而且這些漏洞並不需要越獄才能觸及——其他公開模型(例如 OpenAI 的 GPT-5.5)照樣能發現。

Anthropic 同時把焦點拉回事前準備:Fable 5 問世之前,他們已聯手美國政府、英國 AISI 與多家第三方機構,累積了數千小時的紅隊測試。測試結果顯示,Fable 的防護明顯勝過以往任何一個已部署的模型,而直到今日,仍沒有人找出「通用越獄」——也就是能大範圍繞過全部防護的手法。不過 Anthropic 坦白承認,以現有技術而言,完美的越獄防護並不存在,因此他們選擇「縱深防禦」策略:把越獄壓得夠窄、或讓它的成本高到不划算,再配上嚴密監控。

真正的爭點:召回標準與整個產業的代價

聲明裡最尖銳的質疑是:單靠一個「狹窄、非通用」的越獄,就足以讓一款商業模型被召回嗎?Anthropic 直言,「這個標準若套用到整個產業,基本上會讓所有前沿模型的部署停擺」。他們並不否認政府有權擋下不安全的部署,但堅持這項權力必須經由「透明、公平、清晰、基於技術事實」的法定程序來行使——這次行動顯然沒有達到這個門檻。

AI 監管的兩難在這起事件中表露無遺:國安風險確實需要有人把關,可是缺乏明確技術依據的干預,代價可能是創新受挫、企業無所適從。Anthropic 的自我辯護很直接——該做的安全措施都做了,那個越獄也沒有造成任何實際危害,所以政府的這個決定「基於誤解」。

給 AI 產品團隊的三個提醒

如果你正在打造 AI 產品,以下三點值得記在心上:

  • 安全沒有滿分可言:Anthropic 的例子說明,紅隊測試投入再多資源,也換不到零漏洞的保證。開發者該做的是務實看待安全、採行分層防禦,而不是追著達不到的完美跑。
  • 合規是一筆真實的帳:為了支應安全監控,Anthropic 已要求客戶資料必須保留 30 天,客戶關係因此付出了實際成本。這類合規要求日後恐怕只會更常見,產品設計得預先把它考量進去。
  • 說清楚本身就是本錢:事件發生後,Anthropic 隨即公開聲明,把技術細節與自身立場攤在陽光下,客戶信任因此有所依託。當監管壓力襲來,清晰的溝通就是企業最關鍵的資產。

接下來值得盯著看的

Anthropic 承諾會在 24 小時內公布更多細節,也表明會「盡快恢復存取」。這起事件會不會成為 AI 監管的分水嶺,得看兩個變數:政府拿不拿得出更明確的技術證據,以及產業界怎麼回應。給開發者的提醒再明白不過——AI 產品早已不只是技術競賽,監管與政策正一步步寫進產品生命週期。

資料來源

AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. Anthropic 與 GSA 擴大合作:Claude 進入全級距政府市場

    GSA 協議為政府機構提供 40% 折扣並擴展至州與地方政府,預估節省 10 億美元,政府導入 Claude 的門檻大幅降低。

    Anthropic

  2. 十一月十二日前檢查你的 agent:Anthropic 新版使用政策對 builder 的六個實際影響

    Anthropic 於 2026 年 10 月 8 日公布新版 Usage Policy,11 月 12 日生效,涉及監控、武器、選舉與高風險場域的具體規則變化。

    Anthropic

  3. 從所有權結構下手:Anthropic 收緊不支援地區銷售限制對產品團隊的意義

    Anthropic 把限制從「在哪裡營運」改成「誰控制你」,產品團隊做企業採購與合規時要重新檢視客戶的所有權結構。

    Anthropic