Anthropic提出AI代理人零信任框架，因應AI加速攻擊風險

來源： iThome | 日期： 2026-06-02
URL： https://www.ithome.com.tw/news/176277
Blog ID： 703

核心主張

Anthropic發布AI代理人零信任安全框架，要求企業部署自主AI代理人時，應以**「假設已遭入侵」**為前提規劃安全架構，因傳統存取控管無法防止AI代理人濫用合法權限。

三層框架架構

層級	適用對象	主要措施
基礎	一般組織	短效存取權杖、密碼學驗證身分識別、身分為核心的工作負載隔離、自動事件分流
企業	中高風險組織	憑證生命週期管理、沙箱執行環境、不可竄改稽核紀錄、自動限權/隔離/中止機制
進階	高風險/高度受監管環境	硬體身分驗證、機密運算環境、持續授權控管、自動恢復與修復能力

8階段實作步驟

1. 確認法規與營運需求
2. 管理供應鏈風險
3. 定義代理人可執行範圍
4. 防範提示注入（Prompt Injection）
5. 控管工具存取
6. 保護代理人憑證
7. 保護記憶內容
8. 持續監控評估（指標：異常停留時間、警示調查涵蓋率、行為偏移）

主要威脅情境

• 攻擊者透過長時間、多階段操作逐步擴大影響
• AI記憶內容遭汙染
• 合法權限被濫用

衍生頁面

• Anthropic提出AI代理人零信任框架因應AI加速攻擊風險 — 核心概念頁面
• anthropic — 發布組織