摘要: Anthropic 於 2026 年 10 月 14 日發表針對美國中期選舉的安全防護更新,涵蓋用量分析、投票資訊接通、政治偏見評估與濫用偵測。對產品 builder 來說,這份文件其實是一份「高風險場域部署清單」:先量測真實使用行為,再設計防護,最後讓外部機構找漏洞。
先看資料,再設計防護
Anthropic 用 Anthropic Insights 分析了 2026 年 9 月 21 日至 27 日約 250,000 筆美國 Claude.ai 對話,採用隱私保護的分類方式。結果顯示:廣泛觸及政治、公共政策或社會議題的對話約佔 5.75%,明確關於選舉或投票的約 0.51%;直接問「該投給誰」的只有約 0.01%,違反選舉誠信政策的請求更低至約 0.002%。
這組數字對任何做敏感領域產品的人都有參考價值:濫用請求的實際比例,往往遠低於直覺預期。先把真實分布量測出來,防護資源才能放在對的地方,而不是為了極少數情境把整個產品收緊。
把官方資訊接進對話流
在產品端,Claude.ai 做了兩件事。第一,針對選民登記、投票所位置、選舉日期等問題,繼續顯示連往 TurboVote(Democracy Works 的無黨派資源)的橫幅。第二,從本月起,Claude 會把 Democracy Works 彙整的官方投票資訊直接納入回答,例如使用者問投票所需證件,就能拿到所屬州的具體答案,不必離開對話。選舉夜及之後幾天,Claude 也會顯示最新官方計票結果。
這裡的設計選擇值得注意:不是讓模型自己生成投票規定,而是從第三方彙整的官方來源取資料。高風險、會變動的事實性內容,交給專門的資料管線,模型只負責對話——這是我們在不少 AI 產品裡反覆看到的分工。
外部審查找出的兩個具體問題
Anthropic 表示最新模型在政治公正性評估拿到 99%,但也找了三個獨立機構做外部審查:Vanderbilt 大學的 The Future of Free Speech、Foundation for American Innovation,以及 Collective Intelligence Project(後者透過美英印三地超過 2,000 人的三階段調查建立評估原則)。
審查找出了具體缺陷:Claude 很少拒答,但有時會加入未被要求的警告或反方論點,例如在倡議信裡硬插一段對立意見;Foundation for American Innovation 則發現 Claude Sonnet 4.5 對右派立場的軟化程度不對稱。這些是典型的「過度對齊」副作用——不拒答反而更容易藏偏見。Anthropic 針對是非題回答、警告語的添加時機、以及左右對稱提示詞測試都在修正。
多步驟濫用才是真正的考題
最值得 builder 留意的發現來自與 Institute for Strategic Dialogue 和 McCain Institute 的壓力測試:Claude 能可靠地拒絕單一有害請求,但當一場惡意選舉操作被拆成多個看似無害的小任務——受眾研究、架新聞網站、撰寫內容、規劃散布——模型就可能漏接。
Anthropic 的回應是加入新的分類器,偵測虛假社群帳號、政治導向假新聞站、財務動機的選舉詐騙等新穎且多步驟的濫用,並強化對外國國家行為者的偵測。實際案例包括:境外操作者用 Claude 產出傾向俄羅斯、伊朗、北韓敘事的中期選舉報導,以及製造假新聞賺廣告費,相關帳號已被封禁。
這正是我先前在 Anthropic 落戶新加坡:一家模型公司用 MOU 貼近監管現場,對 builder 意味著什麼 裡提過的模式——模型公司愈來愈把「防護」當成一套需要持續維運的系統,而不是上線前的一次性審查。對自建 agent 或內容流程的團隊,教訓很直接:任務拆解會讓每一塊看起來無害,評估不能只測單一請求,要測整條工作流。
Anthropic 承諾之後會公布更完整的選舉週期使用報告。在那之前,這次更新至少給了一個可操作的檢查順序:量測真實用量、把關鍵事實交給專門來源、讓外部的人拆解你的防護。
