Anthropic提出AI代理人零信任框架因應AI加速攻擊風險
Anthropic 2026年6月2日發布 AI 代理人零信任安全框架，要求企業以「假設已遭入侵」為前提部署自主 AI 代理人，因傳統存取控管無法防止代理人濫用合法權限。
背景
隨著 AI 代理人大量部署，攻擊者可透過長時間、多階段操作逐步擴大影響，並利用 AI 記憶內容汙染與合法權限濫用發動攻擊。Anthropic 指出現有企業安全架構未能應對此類新型威脅。
三層框架架構
| 層級 | 適用對象 | 主要措施 |
|---|---|---|
| 基礎 | 一般組織 | 短效存取權杖、密碼學驗證身分識別、身分為核心的工作負載隔離、自動事件分流 |
| 企業 | 中高風險組織 | 憑證生命週期管理、沙箱執行環境、不可竄改稽核紀錄、自動限權/隔離/中止機制 |
| 進階 | 高風險/高度受監管環境 | 硬體身分驗證、機密運算環境、持續授權控管、自動恢復與修復能力 |
8階段實作步驟
- 確認法規與營運需求
- 管理供應鏈風險
- 定義代理人可執行範圍
- 防範提示注入（Prompt Injection）
- 控管工具存取
- 保護代理人憑證
- 保護記憶內容
- 持續監控評估
相關概念
- 非人類身分NHI治理危機與AI Agent資安威脅 — NHI 超額授權問題與 AI 代理安全框架
- Anthropic Claude代理安全設計環境邊界隔離與損害範圍限制 — Anthropic 代理安全設計原則
- Claude Managed Agents新增MCP通道與自架沙箱企業內網連線能力 — 相關企業代理功能
- 新加坡政府AI代理沙盒測試白皮書公共服務效益與治理風險評估 — 政府 AI 代理治理案例
來源文章
相關頁面
- anthropic — 框架發布組織