AGENTIC COMMONSAI 產業簡報

繁中EN

主題AI 晶片與算力出版

返回文章列表

NVIDIA 的硬體級 AI 安全:如何在保護資料的同時不拖慢推論速度

摘要: NVIDIA 於 2026 年 7 月 2 日發表 Confidential Computing,作為推論期間資料暴露的硬體層對策。這套做法讓資料在 CPU 與 GPU 處理全程維持加密,官方主張安全與效能不必二選一。文章說明部落格只給概念,未提供效能數據或支援的 GPU 型號。

當 AI 系統從實驗推進到正式營運,資料安全往往是上架前最難跨過的那道門檻。這一點對醫療、金融、政府這類經手敏感資訊的組織特別明顯:資料「正在被使用」的階段,向來比存放或傳遞時更難看住。NVIDIA 於 2026 年 7 月 2 日在官方部落格上給出了他們的對策——Confidential Computing(CC)。它不是抽象口號,而是直接在硬體層堵住「推論期間資料外洩」的風險。

「使用中」的資料為何成為防護缺口

一般的加密機制多半只守住兩種狀態:資料存放時(靜態)與傳遞時(動態)。可是一旦資料被讀進記憶體、交給 AI 模型跑推論,就必須攤成明文才有辦法計算。這代表只要誰碰得到記憶體——心懷不軌的內部人員、已經淪陷的作業系統,甚至是更底層的虛擬機器管理程式——就有機會把敏感資訊撈走。NVIDIA 的 CC 技術正是衝著這個缺口而來:資料在 CPU 與 GPU 上被處理的全程,都維持加密狀態。

對產品建構者而言,這件事的意義遠超出 IT 合規。假如你的產品要經手客戶的機密資料,而對方堅持資料在整個生命週期都得受到保護,少了這層防線,生意可能當場告吹。NVIDIA 這套方案想證明的,正是「安全」與「效能」不必二選一——這也是它最值得盯著看的地方。

硬體加速如何守住效能這一關

回頭看,記憶體加密之所以遲遲難被廣泛採用,是因為每一次資料存取都得多做一道加解密手續,效能損耗相當可觀。NVIDIA 的 CC 選擇借力硬體加速,把這些運算直接融進 GPU 的處理流程,讓額外負擔壓得非常低。官方部落格形容,這套方案是「為了 agentic 時代而設計」,言下之意是它不只服務傳統批次推論,也撐得住需要即時反應的 AI 代理(agent)應用。

正在挑選 AI 基礎設施的團隊,面前的取捨其實很單純:為了拉高安全等級,你願意付出多少代價?NVIDIA 給出的宣稱是,你不必咬牙犧牲其中一邊。不過真要上線,仍得針對自己的工作負載實測效能表現,特別是模型會頻繁存取大量資料的場合。

給產品建構者的行動清單

假如你手上的產品靠 AI 推論運作,客戶又對資料隱私格外在意,那 Confidential Computing 應該排進你的技術評估清單。第一步,查清楚部署環境——不論是雲端供應商還是自有資料中心——能不能支援 NVIDIA CC,畢竟它需要特定的硬體與軟體棧搭配。第二步,實際測量模型開啟 CC 之後的推論延遲與吞吐量,確認服務水準協議(SLA)守得住。第三步,找安全團隊一起盤點,這層防護該怎麼接上既有的加密與身分驗證機制,串成一條完整的防禦鏈。

也要留意,這篇部落格文章只做到概念層次的介紹,既沒有公布具體的效能數據,也沒有列出支援的 GPU 型號。因此在拍板架構之前,比較穩妥的做法是直接翻閱 NVIDIA 的官方文件,或找他們的解決方案架構師討論,把更詳細的技術規格問清楚。

把安全當成產品本身的一部分

這次 NVIDIA 的發布點出一個老道理:AI 安全不該等到上線前才臨時加掛。設計產品的當下,就該盤點資料在整條處理流程上有哪些暴露風險,再挑對應的技術把風險壓下來。硬體級的 Confidential Computing 是一個很有分量的選項,但它合不合用,終究要看你的具體場景。比較穩的順序是:先弄懂客戶的安全需求,再評估技術上行不行得通,最後才決定要不要採用。走完這一輪,你才可能一邊守住資料,一邊不讓安全機制拖住產品的腳步。

資料來源

AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. Harmoni 不蓋新廠:用掛在機台上的平板和 AI,替 28 萬座老工廠補上斷掉的資訊鏈

    Harmoni 用磁吸平板把機台、工人和流程串成一套系統,再讓 AI 助理 HAL 直接在現場回答與執行,為老工廠升級。

    AI Deployment

  2. IBM 與 NVIDIA 擴大合作:把 GPU 加速推進企業資料層

    GTC 2026 開幕日,IBM 與 NVIDIA 宣布擴大合作:Presto 引擎結合 cuDF 加速查詢,Docling 搭配 Nemotron 解析文件,Blackwell Ultra 將上 IBM Cloud;Nestlé 資料超市刷新從 15 分鐘縮至 3 分鐘,成本大減 83%。

    NVIDIA

  3. Akamai 買進數千顆 NVIDIA Blackwell GPU:把推理搬進 4,400 個全球邊緣據點

    Akamai 於 2026 年 3 月 3 日宣布購入數千顆 NVIDIA Blackwell GPU,結合逾 4,400 個邊緣據點打造分散式推理平台,宣稱延遲最多改善 2.5 倍、推理成本最多省 86%。本文解析其推理時代佈局與對開發者的意義。

    NVIDIA