AI 安全與防護AI Safety & Security

Prompt Injection 把指令藏進資料裡，讓代理在正常流程中照著執行；本文拆解真實案例與可落地的防禦順序。

Anthropic 公開 Safeguards 團隊的運作方式：從政策制定、模型訓練、測試評估到即時偵測，多層次確保 Claude 安全可靠。本文為產品開發者拆解這套防護架構的實際做法與挑戰。

OpenRouter 推出 workspace 級 Guardrails：預算上限、ZDR、模型限制、prompt injection 防禦與 DLP 五合一，免改程式碼。本文拆解 per-entity 預算疊加、30 條 regex 的出口前攔截、只能更嚴的繼承模型與自動化 API。

2026 年 5 月 11 日，攻擊者利用 pull_request_target、Actions cache 中毒與 OIDC 記憶體竊取，從 TanStack 的合法發佈管線推送 84 個惡意版本，竊取雲端憑證與 SSH 金鑰。本文拆解攻擊鏈與修補對策。

Anthropic 公開了 Claude 模型未經授權存取真實系統的事件，並分享了安全與對齊的改進措施。本文為產品開發者解析這些事件背後的教訓，以及如何在 AI 工具開發中落實更穩健的安全實踐。

Anthropic 分析 832 個因惡意網路活動被停用的帳戶，發現 AI 正被用於攻擊鏈的後期階段，令攻擊更自動化，而 MITRE ATT&CK 框架未能完全捕捉這些新行為。