AGENTIC COMMONSAI 產業簡報

繁中EN

主題AI 安全與防護出版

返回文章列表

加州 SB 53 元旦生效:前沿 AI 透明化義務正式上路

本頁內容6 個段落
  1. 誰被涵蓋:10^26 FLOPs 與 5 億美元門檻
  2. 兩份新文件:透明報告與安全框架
  3. 事故通報時鐘與吹哨人保護
  4. 罰則、執行與 2027 年的下一波
  5. 對開發與產品團隊的實際影響
  6. 參考來源

摘要: 加州 SB 53 在 2026 年 1 月 1 日生效,要求部署新的或經重大修改、訓練運算量超過 10^26 次整數或浮點運算的前沿模型時,同步或提前發布透明報告。前一年連同關係企業營收超過 5 億美元者,還要公開並遵循每年更新的安全框架;重大安全事故須在 15 天內通報 CalOES,若構成死亡或重大傷害的急迫風險,須在 24 小時內向適當的執法或公共安全機關揭露。違反相關義務每次最高可處 100 萬美元民事罰鍰。

加州 SB 53 於 2026 年 1 月 1 日正式上路。這部由參議員 Scott Wiener 提出、州長 Newsom 在 2025 年 9 月 29 日簽署的法律,是美國頭一部專門針對前沿 AI 模型的州級立法,也是 SB 1047 於 2024 年被否決後重新校正出的路線:不設 kill switch、不搞上市前審批,而是要求開發商把風險評估化為文件、攤在陽光下,做不到就付出代價。

多數前沿實驗室的總部或主要營運都在加州境內,因此生效日之後發布的每一個新模型,第一天起就踩進新的揭露義務;它與同日啟動的 OpenAI Rest-of-World 條款(見開年觀察)聯手定調了 2026 年的基調:規則正在收緊。

誰被涵蓋:10^26 FLOPs 與 5 億美元門檻

「前沿模型」的定義是訓練運算量超過 10^26 次整數或浮點運算的基礎模型,且計算範圍涵蓋後續微調、強化學習與重大修改;啟動這類訓練的主體,即為「前沿開發商」。

較重的義務只加諸「大型前沿開發商」:連同關係企業,前一年度總營收超過 5 億美元者。加州科技部每年須重新檢視這些定義,並在 2027 年 1 月 1 日前提出首輪調整建議——門檻設計成會跟著實況移動,而非一經立法就凍結。

兩份新文件:透明報告與安全框架

前沿開發商在部署新的或經重大修改的前沿模型時,必須同步或提前發布透明報告,內容至少涵蓋開發商網站、與使用者溝通的機制、發布日期與預期用途;既有的 system card 或 model card 若已涵蓋這些項目,即視為合規。基於商業機密、資安或國安理由可以刪減,但報告必須逐一說明並正當化每處刪減,未刪減版本須保存五年。

大型開發商的報告還得補上災難性風險評估的摘要、評估結果與第三方評估者的參與程度;同時須撰寫、確實遵循,並在網站公開「前沿 AI 安全框架」,至少每年檢視更新,內容涵蓋標準採用、災難性風險門檻與評估、部署前後審查、未發布模型權重的資安防護、事故應變與內部治理。

「災難性風險」的定義也毫不抽象:可預見且實質的風險,足以促成 50 人以上死亡或重傷、或單一事故造成逾 10 億美元財損——途徑包括 CBRN 武器協助、無人監督的網攻或嚴重犯罪,以及擺脫開發商與使用者的控制。

事故通報時鐘與吹哨人保護

通報義務掛著兩個時鐘:發現重大安全事故後,15 天內向加州緊急服務辦公室(CalOES)通報;若事故構成死亡或重大傷害的急迫風險,24 小時內向適當的執法或公共安全機關揭露。大型開發商另須每三個月(或其他合理週期)向 CalOES 傳送內部使用模型的災難性風險評估摘要。

吹哨人保護是這部法律最尖的牙之一:開發商不得以政策或合約阻止或報復員工,向加州檢察總長、聯邦機關、主管或調查中的同事,揭露其合理相信屬於特定重大公共安全危險或違反 SB 53 的資訊。大型開發商須提供匿名內部通報管道、每月更新處理進度,並公告員工權利通知。

罰則、執行與 2027 年的下一波

違反框架發布、透明報告或重大安全事故通報義務,每次可處最高 100 萬美元民事罰鍰,且僅能由加州檢察總長提起民事訴訟執行。細節裡藏著重點:未遵守自己公開發布的安全框架,本身就是違規——文件一旦上線,就變成可執行的承諾。

2027 年 1 月 1 日是下一個里程碑:CalOES 開始發布去識別化的年度事故摘要,科技部交付定義更新。一個值得再講一次的常見混淆:SB 942(規範生成內容來源揭露與浮水印的加州 AI 透明法)已被 AB 853 延至 2026 年 8 月 2 日——元旦上路的是 SB 53,不是 SB 942。

對開發與產品團隊的實際影響

三個實際動作:第一,誠實盤點自身範圍——保存訓練運算量紀錄、合併關係企業營收,因為 5 億美元那條線比多數團隊想像的更容易跨過。第二,把 model card 產線對齊透明報告要件,並為每處刪減留下文件軌跡——說了什麼、略去什麼,日後訴訟都可能被檢視。第三,在應變計畫裡掛上 15 天與 24 小時兩個時鐘,並建立匿名吹哨管道。這些都不是法務部門的獨家業務;模型、安全與工程團隊各有角色要演。

參考來源

AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. Anthropic 與 OpenAI 的州級 AI 安全法案之戰:棘輪式升級 vs 反向聯邦主義

    美國國會立法停擺下,AI 實驗室轉戰州議會。Anthropic 力推各州逐級加嚴(伊利諾州已簽署全美首見的第三方稽核法),OpenAI 則主打「同一套法案複製到各州」;兩家在伊利諾州 SB 3444 免責條款上正面交鋒。本文整理雙方策略與各州進展。

    Anthropic

  2. 美國《Great American AI Act》草案:三年預佔州權引爆反彈

    美國眾議員 Obernolte 與 Trahan 發布 269 頁《Great American AI Act》討論草案:前沿模型須提安全計畫並接受半年一次第三方稽核,但三年州法預佔權引發勞工、消費者團體與民主黨內反彈。本文解析條文、時程與對開發者的意義。

    Regulation

  3. OpenAI 遭多州檢察長聯盟調查:傳票直指廣告、諂媚與未成年保護

    《華爾街日報》揭露美國多州檢察長組成聯盟調查 OpenAI,紐約州已送達傳票,範圍涵蓋廣告手法、使用者黏著、模型諂媚、健康資料與未成年人及長者保護,距離 OpenAI 秘密遞交 IPO 申請僅四天。

    OpenAI