AGENTIC COMMONSAI 產業簡報

繁中EN

主題AI 安全與防護出版

返回文章列表

Dario Amodei 表態:Anthropic 從未主張禁用開放權重模型

本頁內容6 個段落
  1. 公開信催出的立場聲明
  2. 兩層國安惡夢
  3. 禁令之外的三項主張
  4. 對公開信:大方向同意,兩點反駁
  5. 對開發者與開源生態的意義
  6. 參考來源

摘要: Dario Amodei於2026年7月27日表示,Anthropic從未主張禁用開放權重模型。他主張的替代措施包括先進晶片出口管制、打擊工業級蒸餾,並要求所有足夠強大的開放或封閉模型在上線前接受網攻、生物與對齊風險安全測試。

2026 年 7 月下半,開放權重模型成了華盛頓最熱的字眼。有報導稱,部分美國官員正考慮禁止美國企業使用中國的開放權重模型,多家科技公司隨即連署公開信表態支持開放權重;而被視為封閉模型陣營代表的 Anthropic,遭指控想藉禁令打壓對手、保護自家生意。7 月 27 日,執行長 Dario Amodei 親自撰文回應,話講得毫無轉圜:「Anthropic 從未主張禁用開放權重模型。」

公開信催出的立場聲明

Amodei 一開頭先劃清界線:不具危險能力的開放權重模型屬於公共財——除了執行所需的運算成本,幾乎不花錢,對企業、開發者與研究者都有價值;保護主義式的禁令,處理不了他最在意的國安疑慮。這套立場其實半年前就寫過:他在《The Adolescence of Technology》裡已鋪陳同樣論證,自稱多年來態度一致,這次只是把話講到沒有含糊空間。

兩層國安惡夢

Amodei 的國安憂慮分兩層。第一層,威權政府——不限於中國,但在他看來中共的能力最強——可能造出比美國更強的模型,把領先換成永久軍事優勢,或對自己人民進行深度監控。他強調,這跟模型是否開放權重、是否被美國企業使用沒有關係:最危險的模型,可能是秘密訓練、只交給解放軍無人機與國安部門使用的那一顆。文中引用副總統 Vance 在巴黎的警告,以及情報體系 2026 年度威脅評估。第二層,強大模型可能被用來發動網攻或生物攻擊,也可能帶有嚴重的對齊問題。他承認開放權重在這裡風險確實較高:護欄難以加掛、使用難以監控,權重一旦釋出就收不回來。但他的推論反向而行:禁令只管得住守法的美國企業,而壞人不太可能是守法企業;禁令真正保護的,是美國 AI 公司免於競爭——那從來不是他的目標。

禁令之外的三項主張

Anthropic 真正支持的是三件事。第一,不賣先進晶片與製程設備給中國,並嚴查走私與規避管道——按規模定律,中國沒有美國晶片就造不出比美國更強的模型,這是掐住第一個情境最直接的辦法。第二,打擊工業級蒸餾:蒸餾遠比從頭訓練省算力,能讓中國以有限晶片把前沿追到只落後美國幾個月,需要政策介入嚇阻;這些公司多半釋出開放權重,但他認為重點在於國家機器在背後撐腰,權重本身不是核心問題。第三,所有足夠強大的模型——開放或封閉——都應強制在上線前做安全測試,檢驗網攻、生物與對齊風險;他認為這已接近共識,川普政府近月也朝這個方向走,新創與學術界的小模型則應完全豁免。開放權重是否真的更危險、風險能否緩解,該由測試數據說了算,而不是事先假設。

對公開信:大方向同意,兩點反駁

對於科技業的連署公開信,Amodei 同意大方向:開放權重讓更多人參與 AI 經濟、在某些用途上強化競爭、給客戶更多控制權;蒸餾疑慮應交由針對性的法律與商業框架處理。但有兩個論點他不接受——開放權重必然更容易做安全防護、廣泛取得能力必然對防守方的好處大於攻擊方。他認為結果很可能相反,並以生物領域為例:夠強的模型也許能用容易取得的材料快速把病毒武器化,而防禦端再快也是以年計的工程。這類問題,該靠嚴謹的上線前測試實證回答。

對開發者與開源生態的意義

短期來看是虛驚一場:開放權重模型不會被整類禁止,美國企業能否使用中國開放權重模型的爭議暫時降溫。結構上,戰場移到三個更難纏的位置:晶片出口管制的執法、蒸餾行為的法律定性,以及強制安全測試的門檻設計——門檻訂在哪裡,將決定哪些開放模型能合法存在。另一個值得留意的訊號:Anthropic 與 AE Studio 合作發表的模組化訓練研究顯示,開放權重模型的安全機制有望在訓練階段就內建。禁令之辯暫告落幕,測試之辯才剛開始。

參考來源

AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. Anthropic 讓 METR 進駐公司:獨立評估的新標準

    Anthropic 開放六名 METR 員工以接近內部員工的權限評估模型風險,並公布三級評估存取架構。

    Anthropic

  2. 選舉級的 red team:Anthropic 用資料與外部審查替 2026 中期選舉做準備

    Anthropic 公布中期選舉前的防護部署:25 萬則對話分析、外部機構壓力測試,以及拆解多步驟濫用的新分類器。

    Anthropic

  3. 十一月十二日前檢查你的 agent:Anthropic 新版使用政策對 builder 的六個實際影響

    Anthropic 於 2026 年 10 月 8 日公布新版 Usage Policy,11 月 12 日生效,涉及監控、武器、選舉與高風險場域的具體規則變化。

    Anthropic