新加坡政府公布AI代理沙盒測試結果，評估公共服務應用效益與治理風險
來源： iThome（ID: 513） URL： https://www.ithome.com.tw/news/176027 發布日期： 2026-05-21
摘要
新加坡資安局（CSA）、政府科技局（GovTech Singapore）與資訊通信媒體發展局（IMDA）聯合 Google，於 2025 年 8 月啟動 AI 代理沙盒計畫，歷時約 4 個月，針對公共服務場景進行實測，並於 2026 年 5 月 20 日公布白皮書。
應用風險分類框架（四象限）
| 類型 | 風險 | 效益 | 策略 |
|---|---|---|---|
| Advance | 低 | 高 | 優先推進 |
| Adopt | 低 | 低 | 中期導入 |
| Adapt | 高 | 高 | 搭配防護措施再測試 |
| Avoid | 高 | 低 | 避免 |
三大測試場景
- 政府數位服務品質檢測（Advance）：AI代理能檢查網站回應時間、搜尋功能與頁面完整性，可辨識失效頁面等問題。
- 聊天機器人安全測試（Adopt）：可自動傳送測試提示詞，但機器人回應較長時代理記錄易出現幻覺。
- 社福服務申辦流程（Adapt）：能協助申請流程、整理非結構化內容為表單，但涉及個資須人工審查。
主要安全風險
- 間接提示注入攻擊：惡意網頁內容可誘使代理前往未核准網站、洩漏敏感資料或執行非預期動作。
治理建議
- 分層防禦與風險分級監督
- 高風險任務設置事前審查機制
- 低風險可回復任務採日誌與事後稽核
衍生頁面
- 新加坡政府AI代理沙盒測試白皮書公共服務效益與治理風險評估 — 核心概念頁面
- govtech-singapore — 主辦機構