AGENTIC COMMONSAI 產業簡報

繁中EN

主題AI 安全與防護出版

返回文章列表

NHS 畏懼 AI 漏洞挖掘大舉關閉開源庫,GDS 發布指引唱反調

本頁內容6 個段落
  1. SDLC-8 如何走到全面閉庫
  2. 引爆點:AI 挖漏洞的功力大躍進
  3. GDS 的答覆:開放是預設值
  4. 關庫為何是下策
  5. 公共部門與開發者能帶走什麼
  6. 參考來源

摘要: 英國 GDS 與 DSIT 於 2026 年 5 月 14 日發布指引,主張公部門程式碼預設維持公開,回應 NHS 因 AI 挖漏洞能力而想大舉關庫的內部文件。指引把關庫限縮為例外,並指出弱點源自沒修的漏洞與不安全設定,不能靠私有化替代修補能力。實務重點轉向具名負責人、密鑰管理、自動更新與可驗證修補時程。

AI 挖漏洞的速度暴漲後,公部門的程式碼還該攤在陽光下嗎?2026 年 5 月 14 日,英國政府數位服務(GDS)和科學創新及技術部(DSIT)在 GOV.UK 刊出 AI、開放程式碼與公共部門漏洞風險指引,答案很乾脆:預設維持公開。三天後 Simon Willison 和 Terence Eden 說白了——這份沒指名任何機關的文件,其實是衝著 NHS England 來的公開駁斥。

源頭是 NHS England 在 4 月 29 日發出的內部文件 SDLC-8。5 月 1 日 Eden 公開內容:NHS 打算撤下幾乎所有開源儲存庫,推翻多年 code in the open 承諾。NHS 一位資深技術人士表示:「我們顯然在關注 Mythos 這類更擅長找漏洞的工具」「除非必要,大多數儲存庫都會因資安理由移除」。

SDLC-8 如何走到全面閉庫

Eden 列出被這決定牴觸的政策:Technology Code of Practice 跟 Service Manual 都算,NHS Service Standard 的第 12 至 13 點也在列。涉及面也不小——GitHub 上有數千個 NHS 儲存庫,NHS 網域裡數萬個網頁連往這些庫。

「開源等於危險」的預設,他同樣不買帳:那款開源疫情追蹤 app 跑在數百萬支手機上,資安事件掛零;NCSC 跟 AI Safety Institute 也都沒要機關關庫。他自行備份全部儲存庫,並提 FOI 請求。

引爆點:AI 挖漏洞的功力大躍進

NHS 陣腳大亂,元兇名叫 Claude Mythos Preview,出自 Anthropic。模型並未對外發布,而是透過 Project Glasswing 送到 AWS、Apple、Microsoft、Google、Linux Foundation 手上,挖出數千個高嚴重度漏洞,主要作業系統和瀏覽器無一倖免。AI Security Institute 去年 12 月已判定前沿模型具備「實質更強的網路能力」,4 月 13 日再發布 Mythos 評估。

攻擊端同樣動用 AI:Google 的威脅情報團隊在 5 月 12 日證實,犯罪集團已謀劃濫用首個 AI 開發、繞過 2FA 的零日漏洞。GDS 講得直白:從發現到利用的窗口正一路收窄。

GDS 的答覆:開放是預設值

指引給四條:公共系統先達基本門檻;關鍵立場「Keep open by default」。全面私有化會墊高交付與政策成本,重複使用和審視跟著縮水;關庫只算例外,須附簡短威脅模型,範圍窄、有期限、定期重新核可;修補則要強化:訂 SLA、自動化管理依賴、快速處置回報。

全文最重的一句是「Publishing source code does not create those weaknesses」:弱點源自沒修的漏洞與不安全的設定,跟公開無關;私有化也不是修補能力不足時的合適解方。

關庫為何是下策

常見的錯誤直覺,GDS 直接寫成警告:一關了事容易墮入 security by obscurity 的老路,也沖淡從根源修好的急迫感;已公開過的程式碼早被鏡像、被 fork,關掉原庫什麼也拿不回來;關庫還是道「單向門」,拖得愈久,安全重回公開就愈難。Eden 補一個現實:AI 用在 binary 或線上服務上一樣有效,攻擊者本就用不著原始碼。

公共部門與開發者能帶走什麼

這份指引也是可套用的治理清單:擁有者具名、維護計畫(CODEOWNERS)備妥、安全聯絡方式(SECURITY.md)不缺、secret 一律排除、依賴更新與掃描自動化、修補時程可驗證。更大的一課:AI 把漏洞被發現的時間壓到極短後,關鍵不再是「藏」,而是「修得快」。Eden 用公務員文化替這份沒指名的指引下註解:「被邀請參加一場沒有餅乾的會議」。

參考來源

AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. 防禦端開始拿得到前沿模型:Anthropic 把火力對準關鍵基礎設施和開源碼

    Anthropic 推出長期計畫,以 Claude 模型、駐點工程師與免費的 OSS Scanner 支援關鍵基礎設施防禦者和開源維護者。

    Anthropic

  2. NVD 棄守 CVE 積壓:AI 讓漏洞洪流沖垮人工管線

    NIST 宣布 NVD 只富化 KEV、聯邦政府與關鍵軟體三類 CVE,3 月 1 日前積壓全改標「Not Scheduled」。2020–2025 年 CVE 提交量增 263%,2025 年達 49,458 筆創新高,人工分析管線正式棄守。

    Cybersecurity

  3. 蒸餾攻擊不是理論:Anthropic 揭露 DeepSeek、Moonshot、MiniMax 的 1,600 萬次提取

    Anthropic 在 2026 年 2 月揭露三家 AI 實驗室透過 24,000 個詐騙帳號,對 Claude 發動工業級蒸餾攻擊。本文從產品建構者角度,解析攻擊手法、偵測機制,以及這對 API 安全與出口管制的啟示。

    AI Safety