摘要: NVIDIA 在 2026 年 11 月 10 日的 KubeCon + CloudNativeCon 上宣布,把用於 securing 和治理 autonomous agents 的開源 runtime「NVIDIA OpenShell」捐給 CNCF,成為 Sandbox 專案,同時參與 Google 主導的 Agent Substrate,並推出 NVKE、NVKR 和 Snapshot 三個新元件。對在 Kubernetes 上跑 AI agent 和推理工作負載的團隊來說,這代表 agent 安全控制層有了社群治理的開源基礎,而推理擴容的冷啟動延遲也有了具體的縮短方案。
OpenShell 進 CNCF:治理機制長什麼樣
OpenShell 的核心是「deterministic controls」:當 agent 使用工具、存取 inference 服務或執行工作負載時,它對這些活動套用確定性的策略控制,讓團隊能明確規範 agent 能做什麼。它的架構可擴充,團隊可以接上自己的運算資源、inference 供應商、credential 儲存和監控工具,跨不同部署環境套用治理,並整合進既有的企業系統。
進入 CNCF Sandbox 後,OpenShell 會由把它整合進產品的組織共同治理,並接受全球安全專家的檢視與強化。Linux Foundation 執行長 Jim Zemlin 在新聞稿中表示,雲端原生社群面臨的新基礎設施挑戰,就是給 agent 一個安全的運作環境,而 NVIDIA 的捐贈讓開發者有了共同的基礎,也能參與 agent 安全的演進方向。
採用數字方面,NVIDIA 稱已有數百個組織使用 OpenShell,專案上線不到一年就收到數以萬計的貢獻。不過要提醒的是,這些是採用與貢獻量的數字,原始資料並沒有提供 OpenShell 本身的效能基準,也沒有安全事件紀錄之類的實績證據——治理機制的實際強度,仍要等社群審查的成果出來才能判斷。
Agent Substrate:閒置時把算力還回去
治理只是問題的一半,另一半是規模化部署。NVIDIA 也參與了 Agent Substrate——一個由 Google 發起、已進入 CNCF Sandbox 的開源框架,專門處理在 Kubernetes 上大規模運行長時 agent 工作負載的問題。
它的機制是:在任務之間保留 agent 環境,但當 agent 閒置時釋放運算資源,做法是把環境在共享的 agent 池之間掛起(suspend)與恢復(resume)。這樣團隊就不用為每個 session 保留專屬的運算資源。NVIDIA 同時確保它能與自家的 Dynamo(model inference)和 KAI Scheduler(共享叢集資源調度)搭配,把 agent 執行、推理服務和資源調度串在同一個 Kubernetes 平台上。NVIDIA 和 Google 也在合作整合 OpenShell 與 Agent Substrate,讓企業能跨雲端和地端系統統一治理 agent。
對長期掛著大量 agent session 的團隊,這個「閒置即釋放」的模式直接對應到一筆可觀算的閒置運算成本。這和我之前寫過的 NVIDIA Earth-2 開放氣象模型 是同一條路線:把基礎設施層的能力以開源形式交出去,讓社群而不是單一供應商決定它的走向。
NVKE、NVKR 與 Snapshot:推理擴容的積木
第三部分是 DSX AI Factory Platform 的新元件,目標是讓 AI factory 能對客戶提供 managed Kubernetes 服務,同時保住對自家基礎設施和體驗的控制。
- NVIDIA Kubernetes Engine(NVKE) 和 NVIDIA Kubernetes Recipes(NVKR):目前是 public preview,提供在 GPU 基礎設施上交付 managed Kubernetes 的開源積木,自動化叢集生命週期管理,並提供 signed、版本固定的映像檔。
- NVIDIA Snapshot:開源模組化元件,解決「擴容時載入模型和暖機太慢」的痛點。它還原已 checkpoint 的 replica 時不需要重新載入模型或暖機,秒級完成,適用於推理和 agent 工作負載的啟動、恢復與彈性擴展。
Snapshot 的數字來自設計夥伴在 NVIDIA HGX B300 系統上用自家工作負載的實測:Crusoe(也是 Snapshot 的上游貢獻者)在 Crusoe Cloud 上測 GLM-5.3,把工作負載就緒時間從約八分鐘降到 31 秒;Saturn Cloud 測 scale-from-zero 推理,把 vLLM 啟動時間從兩到 8.5 分鐘降到六到 34 秒。
要注意的是,這些是特定工作負載、特定夥伴環境下的結果,不代表所有模型和叢集配置都能達到同樣的縮短幅度。而 NVKE 和 NVKR 還在 preview 階段,正式採用前生態整合仍在進行中——目前宣布整合計畫的夥伴包括 Mirantis、Netris、OpenNebula Systems、Rafay、Spectro Cloud、vCluster,以及 Firmus 和 SK Telecom。
建構者下一步該查什麼
如果你在 Kubernetes 上跑 agent 或推理服務,這波發布有三個實際的檢查點:
第一,去看 OpenShell 在 CNCF Sandbox 的治理文件和確定性控制的實作細節——它到底在 agent 呼叫工具、存取 inference、執行工作負載時強制執行哪些策略,這決定它能不能嵌進你現有的合規流程。第二,如果你的痛點是擴容延遲,Snapshot 值得測:用你自己的模型和叢集配置重跑一次 scale-from-zero 場景,對照 Crusoe 和 Saturn Cloud 的數字是否成立。第三,NVKE 和 NVKR 先觀察夥伴整合的落地進度,等脫離 preview 再評估導入。
原始資料沒有涵蓋的部分也要說清楚:OpenShell 的安全實績、Agent Substrate 在真實生產環境的採用狀況,以及 NVKE/NVKR 何時正式發布,這些都有待後續觀察。
