AGENTIC COMMONSAI 產業簡報

繁中EN

主題AI 安全與防護出版 2026-10-14

返回文章列表Anthropic

選舉級的 red team:Anthropic 用資料與外部審查替 2026 中期選舉做準備

摘要: Anthropic 於 2026 年 10 月 14 日發表針對美國中期選舉的安全防護更新,涵蓋用量分析、投票資訊接通、政治偏見評估與濫用偵測。對產品 builder 來說,這份文件其實是一份「高風險場域部署清單」:先量測真實使用行為,再設計防護,最後讓外部機構找漏洞。

先看資料,再設計防護

Anthropic 用 Anthropic Insights 分析了 2026 年 9 月 21 日至 27 日約 250,000 筆美國 Claude.ai 對話,採用隱私保護的分類方式。結果顯示:廣泛觸及政治、公共政策或社會議題的對話約佔 5.75%,明確關於選舉或投票的約 0.51%;直接問「該投給誰」的只有約 0.01%,違反選舉誠信政策的請求更低至約 0.002%。

這組數字對任何做敏感領域產品的人都有參考價值:濫用請求的實際比例,往往遠低於直覺預期。先把真實分布量測出來,防護資源才能放在對的地方,而不是為了極少數情境把整個產品收緊。

把官方資訊接進對話流

在產品端,Claude.ai 做了兩件事。第一,針對選民登記、投票所位置、選舉日期等問題,繼續顯示連往 TurboVote(Democracy Works 的無黨派資源)的橫幅。第二,從本月起,Claude 會把 Democracy Works 彙整的官方投票資訊直接納入回答,例如使用者問投票所需證件,就能拿到所屬州的具體答案,不必離開對話。選舉夜及之後幾天,Claude 也會顯示最新官方計票結果。

這裡的設計選擇值得注意:不是讓模型自己生成投票規定,而是從第三方彙整的官方來源取資料。高風險、會變動的事實性內容,交給專門的資料管線,模型只負責對話——這是我們在不少 AI 產品裡反覆看到的分工。

外部審查找出的兩個具體問題

Anthropic 表示最新模型在政治公正性評估拿到 99%,但也找了三個獨立機構做外部審查:Vanderbilt 大學的 The Future of Free Speech、Foundation for American Innovation,以及 Collective Intelligence Project(後者透過美英印三地超過 2,000 人的三階段調查建立評估原則)。

審查找出了具體缺陷:Claude 很少拒答,但有時會加入未被要求的警告或反方論點,例如在倡議信裡硬插一段對立意見;Foundation for American Innovation 則發現 Claude Sonnet 4.5 對右派立場的軟化程度不對稱。這些是典型的「過度對齊」副作用——不拒答反而更容易藏偏見。Anthropic 針對是非題回答、警告語的添加時機、以及左右對稱提示詞測試都在修正。

多步驟濫用才是真正的考題

最值得 builder 留意的發現來自與 Institute for Strategic Dialogue 和 McCain Institute 的壓力測試:Claude 能可靠地拒絕單一有害請求,但當一場惡意選舉操作被拆成多個看似無害的小任務——受眾研究、架新聞網站、撰寫內容、規劃散布——模型就可能漏接。

Anthropic 的回應是加入新的分類器,偵測虛假社群帳號、政治導向假新聞站、財務動機的選舉詐騙等新穎且多步驟的濫用,並強化對外國國家行為者的偵測。實際案例包括:境外操作者用 Claude 產出傾向俄羅斯、伊朗、北韓敘事的中期選舉報導,以及製造假新聞賺廣告費,相關帳號已被封禁。

這正是我先前在 Anthropic 落戶新加坡:一家模型公司用 MOU 貼近監管現場,對 builder 意味著什麼 裡提過的模式——模型公司愈來愈把「防護」當成一套需要持續維運的系統,而不是上線前的一次性審查。對自建 agent 或內容流程的團隊,教訓很直接:任務拆解會讓每一塊看起來無害,評估不能只測單一請求,要測整條工作流。

Anthropic 承諾之後會公布更完整的選舉週期使用報告。在那之前,這次更新至少給了一個可操作的檢查順序:量測真實用量、把關鍵事實交給專門來源、讓外部的人拆解你的防護。

參考來源

AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. 十一月十二日前檢查你的 agent:Anthropic 新版使用政策對 builder 的六個實際影響

    Anthropic 於 2026 年 10 月 8 日公布新版 Usage Policy,11 月 12 日生效,涉及監控、武器、選舉與高風險場域的具體規則變化。

    Anthropic

  2. Meta 把安全門檻提前到訓練階段:對 builder 意味著什麼

    Meta 更新 Superintelligence Scaling Framework,把防護要求從部署前延伸到訓練與評估階段,並為 open-weight 釋出補上治理細節。

    AI Safety

  3. Meta 把安全門檻往前挪到訓練之前:對 builder 的三個實際啟示

    Meta 更新 Superintelligence Scaling Framework,把失控防護從部署階段延伸到訓練與評估,並說明 open-weight 釋出的風險評估邏輯。

    Meta