AGENTIC COMMONSAI 產業簡報

繁中EN

主題AI 安全與防護出版

返回文章列表

Mistral 開源 Shieldstral:把審查政策變成一句提問的 3B 分類器

摘要: Mistral 於 2026 年 8 月 4 日推出 Shieldstral,一個 3B 開源權重多模態安全分類器,以 Apache 2.0 釋出。它把審查政策寫成推論時的是非題,回傳校準分數,因此同一份權重可在部署時適應新政策。官方稱其可用一張 16GB GPU 執行,降低自查護欄與私有部署的成本門檻。

2026 年 8 月 4 日,Mistral 端出了 Shieldstral:一個參數量 30 億的開源權重多模態安全分類器,以 Apache 2.0 釋出。官方給的數字沒什麼修飾——文字安全、拒答偵測、政策適應性與多模態這幾組基準上,它能追平甚至超越體積是自己 7 倍的開源護欄模型,多模態審查的成績更是寫下新水準;硬體只要一張 16GB 的 NVIDIA GPU 就跑得動。

比這些數字更值得留意的,是它背後預設的立場:內容審查的標準不該被寫死在模型權重裡。

老毛病:把政策焊進權重

只要產品裡有模型上線,就得回答「這段內容安不安全」;偏偏答案會隨產品、受眾與當下的情境改變——同一則內容,擺在資安研究工具裡毫無問題,放到心理健康平台上卻構成傷害。面對這種落差,多數護欄模型的做法是把一套固定的傷害分類寫進權重,一旦部署場景換了就得重訓;而安全的定義本來就因應用與領域而異,世上並不存在一套「正確」的通用分類。

Shieldstral 走的是另一條路:政策交給你用自然語言寫成問題,推論當下才下達,模型則回傳一個校準過的安全分數。不必重訓,文字與圖像還共用同一個介面。

把審查當問答:一次前向就下判定

在技術層面,Shieldstral 把內容審查包裝成二元問答,一個請求由三個部分組成:Instruct 區塊說評估情境與嚴格度,也能附上「什麼算不安全」的定義;Query 區塊是一道是非題,例如「這段內容是否鼓吹對受保護群體的暴力」;Document 區塊放的是待評估的內容——提示詞、回應、成對的提示與回應,或是附有文字的圖像。

到了推論階段,模型只讀取 yes 與 no 這兩個 logits,經 softmax 標準化成連續的安全分數,一次前向就完成。這個設計看來簡單,卻同時解決了好幾件事:提示詞分類、回應審查、拒答偵測與毒性偵測,全被收攏成同一個問題;政策完全活在提示裡,同一份權重就能在部署當下適應全新的政策;分數本身是連續的,因此你可以依信心值設門檻或做排序,而不是只拿到一個離散標籤。

30 億參數勝過 7 倍大對手:贏在資料工程

Mistral 最核心的主張是:資料對了,小模型照樣能贏過體積大上許多的對手。公開安全資料集之間,分類法、標籤與標註慣例各說各話,團隊於是把每個資料集都轉成相同的「指令—問題—文件」格式,並刻意變換措辭與分隔符,好讓模型學會泛化,而不是把題目背下來;嚴格度再依來源分別校準——遇上對抗性越獄樣本從嚴,面對回應品質資料則放寬——藉此讓決策邊界維持一致。所有評估樣本都與訓練資料隔離。

訓練策略的重點放在教分辨、不教背誦:若僅以固定的政策標籤訓練,模型到頭來只會分類那幾條預設政策,沒有能力推理一項新政策的邊界在哪。為此團隊刻意打造一批彼此相似、容易混淆的政策,再請 LLM 把安全文字改寫成對照組——每一次改寫都只違反其中一條政策,姊妹條款則不去碰觸。如此一來,模型被迫學會判斷「違反的究竟是哪一條」,而這種能力可以遷移到從未見過的新政策上。

開發者與產品團隊該注意什麼

可以歸納成三件事。第一,護欄的成本門檻明顯往下掉:3B 權重跑在一張 16GB GPU 上,想要一層自查核、低延遲的審查機制,不必再排隊等 API 配額,就連邊緣與私有環境也負擔得起部署。第二,審查政策從「改程式碼、重訓模型」變成「改一行提示」——法規或產品場景一有變動,回應速度本身就成了合規能力。第三,這款開源權重模型由 Mistral 以 Open Secure AI Alliance 創始成員的身分,與 NVIDIA 等組織共同推出,Apache 2.0 代表商用、微調、再發布都自由;安全基礎設施長年被供應商鎖定的局面,因此多了一個出口。

參考來源

AGENTIC COMMONS由 PHLEGON LABS 經營
分享X電郵
支持我們

相關閱讀

  1. Mistral Large 4 開放權重:Le Chonk 正式釋出

    **摘要:** Mistral 於 2026 年 10 月 29 日宣布,把旗下 1 兆參數的多模態旗艦模型 Mistral Large 4(綽號 Le Chonk)的權重正式開放。從月初的公開預覽到現在,僅三週的強化學習就讓它在編碼與防禦性安全基準上躍居開放權重模型之首,並新增三段推理模式讓成本可控。對 builder 來說,這代表自托管前沿模型第一次在代理式編碼場景具備實戰競爭力。

    Mistral

  2. Mistral Large 4 公開預覽:開放權重首次打進企業關鍵工作負載

    Mistral 推出 1 兆參數、490 億活躍參數的 Mistral Large 4 公開預覽,權重月底釋出,主打資安與主權部署。

    Mistral

  3. xAI guidelines 參數:逐請求調整 Grok 內容審核

    xAI 讓開發者在每個 API 請求附上 guidelines,逐請求設定 nsfw、violence、profanity 三類內容的處理方式。

    AI API