問題不在模型能力，而在資料誰能碰
前沿模型的能力越強，濫用與自主失控的風險也越高。Anthropic 在 2026 年 9 月 2 日發表的公告中指出，過去幾個月已看到大量企圖濫用 AI 的證據，從詐騙到複雜的網路攻擊，甚至包括代理自主進行破壞性行為。部分案例涉及竊取或盜用企業客戶的憑證，若無法監控流量並偵測異常行為，幾乎不可能發現。
更棘手的是，最精密的濫用往往分散在多個工作階段與多個帳號之間。如果每次互動都獨立分析、用完即丟，就無法把跨時間、跨帳號的訊號串起來。因此，Anthropic 從 Fable 5 開始引入 30 天資料保留政策。這不是為了拿企業資料訓練模型——Anthropic 明確表示從未在未經明確許可下使用企業資料訓練，未來也不會。
但對許多受監管產業的企業來說，資料保留本身就是一道門檻。他們需要向客戶揭露所有「受信任資料供應商」、更新合約，還得滿足內部對敏感資料的儲存與稽核要求。於是，Anthropic 與超過一百家客戶坐下來，設計一套同時兼顧零資料保留隱私與跨時段監控安全的方案。
把監控資料放進客戶自己的雲端帳號
Enterprise Frontier Safeguards（EFS）的核心架構很直接：監控所需的活動資料，儲存在客戶控制的雲端基礎設施裡，而不是 Anthropic 的環境。客戶可以選擇 Amazon S3、Azure Blob Storage 或 Google Cloud Storage，並使用自己的加密金鑰、存取政策與稽核日誌。
這代表客戶保有資料的保管權，而 Anthropic 只負責執行偵測。富國銀行（Wells Fargo）在公告中表示，他們的日誌會留在 Wells 管理的環境、使用 Wells 管理的金鑰，Anthropic 操作偵測，但資料保管權在客戶手上。這種「分離」讓團隊能把前沿模型用於生產，同時滿足對客戶、員工與監管機關的義務。
EFS 將分階段推出，預計從 2026 年秋季稍晚開始。在過渡期間，符合資格的客戶會先獲得 Fable 5 與 Fable 5.1 的零資料保留方案，直到 EFS 就緒。支援的環境包括 Claude Code、Claude Enterprise、Claude Platform、Amazon Bedrock、AWS 上的 Claude Platform、Google 的 Agent Platform，以及 Microsoft Foundry。
自動化監控，但人為審查由客戶自己來
EFS 的另一個重點是審查權的歸屬。自動化系統會分析一段滾動時間窗內的流量，尋找嚴重濫用的訊號，例如企圖開發攻擊性網路或生物能力、憑證遭竊或外洩的跡象。當系統偵測到需要留意的模式時，訊號會直接送給客戶，由客戶自行決定如何處理。
Anthropic 特別強調，EFS 不需要 Anthropic 員工進行人為審查。這對受監管產業尤其重要，因為許多企業受到嚴格規範，限制誰能查看特權法律資料、非公開資訊或藥物安全報告。客戶的團隊已經受過訓練、通過審查，由他們接手後續判斷，既符合法規，也減少外部人員接觸敏感資料的風險。
這項設計來自與安全、產品、法遵與交付團隊的密集合作。參與者包括美國系統性風險分析與韌性中心（ARC），其成員涵蓋高盛、摩根士丹利、花旗、美國銀行與富國銀行的資安長。此外，Comcast、KPMG、Mastercard、Salesforce、Visa 等企業也參與了設計討論，範圍橫跨《財星》百大企業的四分之一、所有美國全球系統性重要銀行，以及幾乎所有受監管產業。
對產品建構者的啟示
EFS 的案例示範了一種務實的取捨：不是把安全與隱私視為二選一，而是重新劃分責任邊界。客戶保有資料與金鑰，Anthropic 提供偵測能力，人為審查留在客戶端。這種架構讓原本因為法規或合約限制而無法使用前沿模型的部門，有機會把 AI 帶進更敏感的工作流程。
對正在設計企業級 AI 產品的團隊來說，有幾個值得參考的方向。第一，資料儲存位置與金鑰管理不只是技術細節，而是能否通過採購與法遵審查的關鍵。第二，自動化監控的價值在於跨時間、跨帳號的關聯分析，單一互動的即時丟棄無法應付分散式濫用。第三，人為審查的歸屬會直接影響產品在受監管產業的接受度，把審查權留給客戶自己的團隊，往往比追求全自動化更實際。
Anthropic 的公告沒有揭露 EFS 的定價、確切推出日期或偵測模型的技術細節。但從參與客戶的回饋可以看出，這套架構回應的是真實的部署障礙，而不只是行銷口號。Snowflake 表示，他們一直想快速把前沿模型交到客戶手上，難處在於如何在最嚴格的資料保證下做到；EFS 讓資料留在客戶環境、由客戶持有金鑰，同時能從第一天就使用 Anthropic 最強的模型。Stripe 也提到，EFS 將讓他們在使用涵蓋的前沿模型時，把對話日誌保留在 Stripe 的 AWS 環境，存取與審查由 Stripe 的安全控制管理。
對產品建構者而言，這類架構設計的價值在於把「信任」從政策承諾轉化為可驗證的結構。當客戶能直接控制資料環境、金鑰與審查流程，部署前沿模型的阻力會明顯下降。接下來值得觀察的是，這套模式能否在更多雲端平台與產業中複製，以及客戶實際採用後，偵測準確率與誤報率會如何影響日常營運。
參考來源
本文由 AI 協助自上述來源整理，經人工審核後發布。