AGENTIC COMMONSAI 產業簡報

繁中EN

主題AI 安全與防護出版

返回文章列表

Enterprise Frontier Safeguards:把監控資料留在客戶手上,同時守住前沿模型安全

摘要: Anthropic 推出 Enterprise Frontier Safeguards,把安全監控活動資料放在客戶自有雲端環境,由客戶管理金鑰、存取政策與稽核日誌。Anthropic 執行自動化濫用偵測,警訊交給客戶安全團隊處理,過程不需要 Anthropic 員工人為審查;方案將分階段推出。

真正的瓶頸是資料由誰掌握,而不是模型有多強

前沿模型越強,被濫用或自行失控所付出的代價也跟著放大。Anthropic 在 2026 年 9 月 2 日的公告裡提到,近幾個月蒐集到的濫用證據為數可觀,型態從詐騙、手法精密的網路攻擊,一路延伸到代理在無人指示下做出破壞行為。有些事件源自企業客戶的憑證被竊取或冒用;在這種情況下,若缺少流量監控與異常行為偵測,要發現問題幾乎不可能。

更難處理的是,手法最高明的濫用往往不會集中在單一工作階段或單一帳號。倘若把每次互動都當成獨立事件、分析完就丟棄,跨時間、跨帳號的線索便永遠拼不起來。Anthropic 因此在 Fable 5 上開始採用 30 天資料保留。這項政策與訓練無關:Anthropic 講得很明確,企業資料不曾、未來也不會在缺乏明確許可的情況下被用於訓練。

不過對許多身處受監管產業的企業來說,光是「保留」這件事本身就足以卡住導入。他們得向自己的客戶揭露每一家「受信任資料供應商」、重新修訂合約,還得通過內部對敏感資料的儲存與稽核規範。Anthropic 於是找來一百多家客戶一起坐下來談,目標是設計出一套既能守住零資料保留的隱私承諾、又能維持跨時段監控能力的做法。

監控資料落地在客戶自家的雲端帳號

EFS 的架構並不複雜:安全監控所需的活動資料,存放在客戶自己掌控的雲端基礎設施,而不是 Anthropic 的環境。儲存選項涵蓋 Amazon S3、Azure Blob Storage 與 Google Cloud Storage,加密金鑰、存取政策與稽核日誌一概由客戶自行管理。

換句話說,資料的保管權留在客戶手上,Anthropic 的職責限於執行偵測。富國銀行(Wells Fargo)在公告中說明,日誌留在 Wells 管理的環境、以 Wells 管理的金鑰保護,Anthropic 負責操作偵測,保管權則歸客戶。靠著這樣的分離,團隊可以把前沿模型帶進正式生產環境,同時對客戶、員工與監管機關都有所交代。

EFS 將分階段推出,時間點預計落在 2026 年秋季稍晚。在 EFS 就緒之前的過渡期,符合資格的客戶可以先取得 Fable 5 與 Fable 5.1 的零資料保留方案。支援的環境包括 Claude Code、Claude Enterprise、Claude Platform、Amazon Bedrock、AWS 上的 Claude Platform、Google 的 Agent Platform,以及 Microsoft Foundry。

監控交給自動化,審查權則留在客戶手中

EFS 另一個關鍵設計,是誰有權進行審查。自動化系統會檢視一段滾動時間窗內的流量,從中尋找嚴重濫用的訊號,例如試圖開發攻擊性網路或生物能力、憑證遭竊或外洩的跡象。一旦出現值得留意的模式,訊號會直接送到客戶端,後續如何處理由客戶自行判斷。

Anthropic 也特別點出,EFS 的運作不需要 Anthropic 員工介入人為審查。這對受監管產業尤其要緊:不少企業受到嚴格規範,限制哪些人可以接觸特權法律資料、非公開資訊或藥物安全報告。客戶自家的團隊本來就受過訓練、也通過了審查,把後續判斷交給他們,既合乎法規,也讓外部人員接觸敏感資料的風險降到最低。

這套設計是在安全、產品、法遵與交付團隊密切協作下成形。參與者包括美國系統性風險分析與韌性中心(ARC),其成員涵蓋高盛、摩根士丹利、花旗、美國銀行與富國銀行的資安長。此外,Comcast、KPMG、Mastercard、Salesforce、Visa 等企業也加入設計討論;參與範圍橫跨《財星》百大企業的四分之一、美國所有全球系統性重要銀行,以及幾乎整個受監管產業。

產品建構者可以帶走什麼

EFS 展示的是一種務實的取捨方式:安全與隱私不必二選一,重點在於把責任邊界重新畫清楚。資料與金鑰由客戶持有,偵測能力由 Anthropic 提供,人為審查則留在客戶端。如此一來,過去因為法規或合約限制而無法採用前沿模型的部門,也有機會把 AI 推進更敏感的工作流程。

對於正在打造企業級 AI 產品的團隊,這裡有幾個可以借鏡的方向。其一,資料存放位置與金鑰管理並非單純的技術細節,而是決定採購與法遵審查能否過關的關鍵。其二,自動化監控之所以有價值,在於它能把跨時間、跨帳號的訊號串連起來;只做單次互動的即時分析隨即丟棄,應付不了分散式的濫用。其三,人為審查由誰負責,直接關係到產品在受監管產業的接受度,把審查權交給客戶自家團隊,通常比一味追求全自動化更行得通。

公告中並未說明 EFS 的定價、確切推出日期,也沒有揭露偵測模型的技術細節。不過從參與客戶的說法可以看出,這套架構處理的是真實存在的部署障礙,而非空泛的行銷口號。Snowflake 表示,他們一直希望盡快把前沿模型交到客戶手上,真正的難題是如何在最嚴格的資料保證下做到;EFS 讓資料留在客戶環境、金鑰由客戶持有,同時從第一天就能用上 Anthropic 最強的模型。Stripe 也提到,EFS 讓他們在使用涵蓋範圍內的前沿模型時,把對話日誌保留在 Stripe 的 AWS 環境,存取與審查交由 Stripe 的安全控制管理。

對產品建構者而言,這類架構設計的意義,是把「信任」從政策上的承諾,轉化為可被驗證的結構。當客戶能直接掌控資料環境、金鑰與審查流程,部署前沿模型的阻力自然會明顯下降。接下來值得追蹤的是:這套模式能否複製到更多雲端平台與產業,以及客戶實際導入之後,偵測準確率與誤報率會如何影響日常營運。

資料來源

AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. 當 Claude Code 被拿來勒索:產品開發者該從 Anthropic 8 月威脅報告讀到什麼

    Anthropic 8 月威脅報告揭露 Claude Code 被用於自動化勒索、北韓假員工與 AI 生成勒索軟體,本文拆解對產品開發者的三個訊號。

    Anthropic

  2. 從 Claude 濫用案例看 AI 安全:產品開發者該注意的三個訊號

    Anthropic 揭露 Claude 被用於影響力操作、憑證填充、招募詐騙與惡意軟體開發的案例。這對正在建構 AI 產品的開發者,意味著安全設計不能只靠事後偵測,而要從產品初期就納入濫用情境的考量。

    AI Safety

  3. 蒸餾攻擊不是理論:Anthropic 揭露 DeepSeek、Moonshot、MiniMax 的 1,600 萬次提取

    Anthropic 在 2026 年 2 月揭露三家 AI 實驗室透過 24,000 個詐騙帳號,對 Claude 發動工業級蒸餾攻擊。本文從產品建構者角度,解析攻擊手法、偵測機制,以及這對 API 安全與出口管制的啟示。

    AI Safety