AGENTIC COMMONSAI 產業簡報

繁中EN

主題AI 安全與防護出版

返回文章列表

OpenAI 與 Microsoft 加入英國 AISI 對齊計畫,安全研究資金突破 2,700 萬英鎊

本頁內容6 個段落
  1. 對齊計畫是什麼
  2. 2,700 萬英鎊的資金組成
  3. 首輪成果:8 國 60 個計畫
  4. 實驗室為何願意自己出錢
  5. 開發者與產品團隊可以怎麼解讀
  6. 資料來源

摘要: OpenAI 與 Microsoft 在 2026 年 2 月 20 日加入英國 AI Security Institute 主導的 Alignment Project 國際聯盟。OpenAI 承諾 560 萬英鎊,使計畫研究資金總額超過 2,700 萬英鎊;Microsoft 有額外支持,但金額未揭露。這筆錢資助外部對齊研究而非監管,實際成效要看獨立成果和評估方法能否成為公共財。

2026 年 2 月 20 日,印度 AI Impact Summit 劃下句點,英國政府也在同一天發布消息:OpenAI 與 Microsoft 正式成為 AI Security Institute(AISI)所主導的國際聯盟成員,一起支撐 Alignment Project(對齊計畫)。這回 OpenAI 簽下 560 萬英鎊的出資承諾,Microsoft 再補上一份支持,使計畫可動用的研究資金總額跨過 2,700 萬英鎊大關。把聲明安排在峰會閉幕日釋出,時間點的選擇本身就是一種表態:除了模型能力的較勁,治理與安全研究正被快速推上更前面的位置。

真正值得細看的,是這樁合作的結構面:兩家美國 AI 界的標竿公司,選擇把資金交給一個由英國政府研究機構居中協調、專門補助獨立研究者的國際計畫,而非只是繼續擴編自家安全團隊。在模型自主性不斷拉高的時代,對齊(alignment)——讓系統穩定照使用者意圖行事、不出現預期之外的有害行為——已經走出學術圈,變成商業採用前得先跨過的門檻。

對齊計畫是什麼

Alignment Project 於 2025 年夏天首度亮相,由英國 AISI 坐鎮主導,採聯盟形式運行。它自己不投入模型訓練,而是扮演資源供應者的角色,對外部研究者給出三項支持:研究補助、算力使用權,以及 AISI 科學家的親身指導。研究走向則由專家諮詢委員會負責審視,成員包含 Yoshua Bengio、Zico Kolter、Shafi Goldwasser 與 Andrea Lincoln。

聯盟的組成橫跨官方與民間:加拿大 CIFAR、澳洲 AI Safety Institute、Schmidt Sciences、AWS、Anthropic、UKRI、ARIA,加上多個以 AI 安全為核心的基金,全數列名其中。隨著 OpenAI 與 Microsoft 進場,「前沿實驗室直接出資」這一塊總算補齊。

2,700 萬英鎊的資金組成

  • OpenAI:簽下 560 萬英鎊承諾,是這次宣布的主角數字
  • Microsoft:以額外支持的形式參與,官方新聞未另行揭露金額
  • 資金總額:累計已超過 2,700 萬英鎊
  • 後續補助:第二輪預計今年夏天開放申請

還要看清楚錢的流向:它是撥給外部研究者從事對齊研究之用,並不進到英國政府的監管預算。換個角度說,實驗室等於掏錢壯大獨立於自身的研究產能,同時接受一套自己無法完全主導的優先順序。

首輪成果:8 國 60 個計畫

首輪補助已全數發出,總計 60 個研究計畫、落在 8 個國家。按英國官方的定調,目標走務實路線:讓持續增強的模型維持在可預測、可控制的狀態,並把驗證方法轉為公共財,而不是變成各實驗室各據一份的內部文件。副首相 David Lammy 的講法是「我們永遠清楚,安全必須從一開始就內建進去」;AI 部長 Kanishka Narayan 對因果關係說得更不含糊:「只有人們信任 AI,我們才能解鎖它的全部力量。」

實驗室為何願意自己出錢

OpenAI 研究副總裁 Mia Glaese 的聲明給出了最直接的理由:「當 AI 系統變得更強大、更自主,對齊研究必須跟上。」對正在把代理(agent)送往企業工作流的廠商而言,安全研究不是公關開銷,而是產品路線圖的依賴項。參與一個由政府機構統籌、設有獨立諮詢委員會的計畫,一次能換到三樣東西:外部研究能量、與監管者共事的慣例,以及「確實有投入安全」且可驗證的紀錄。

開發者與產品團隊可以怎麼解讀

影響可分成三點來看。第一,產品若要賣進政府、金融或關鍵基礎設施,模型測試文件與治理控制將一步步變成採購基線——這類國際計畫產出的評估方法與工具,終將成為稽核時的通用語彙。第二,第二輪補助今年夏天開放,規模不大但專注對齊、評估、可解釋性的團隊,因此多了一條不必經過創投的資金管道。第三,把這則消息放回同一週的新聞序列(見我們的 AI 週報),模型、算力、治理三條線一起推進,2026 年的 AI 採購決策得同時核對三張成績單。

資料來源

AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. OpenAI 硬體負責人 Kalinowski 因五角大廈協議辭職

    2026 年 3 月 7 日,OpenAI 機器人與消費硬體負責人 Caitlin Kalinowski 宣布辭職,理由是五角大廈協議在護欄未定義下倉促宣布。本文解析她的聲明、OpenAI 的回應,以及 ChatGPT 移除量暴增 295% 的市場反應。

    OpenAI

  2. 青少年安全藍圖不是合規清單:產品團隊要提早設計的六個決策

    OpenAI 發布澳洲青少年安全藍圖,把年齡保證、家長控制與危機轉介寫成產品預設,而不只是政策文件。

    OpenAI

  3. 模型不聽話時,該怎麼記錄、調查、公開?OpenAI 的 misalignment 通報框架

    OpenAI 提出一套模型偏差通報框架,從發現、調查到揭露,讓開發者能更快分享異常行為,即使還沒找到原因或解法。

    AI Safety