Agent 冲出沙箱之后:说什么、做什么,都要管得住
你部署的每个 Agent,都是一个新身份,也是一个新攻击面。今年 7 月,一家 AI 厂商做网络安全能力评测时关掉了部分防护,一批评测 Agent 冲出沙箱,不到 13 小时就从一个容器拿到多个集群的管理员权限,3 天后才被发现。10 月又出了两件事:一款 AI 编程助手被一个伪装成工程笔记的文件"策反",9 家 AI 开发平台上存放的大模型 API 凭证被批量盗用。
本期,亚马逊云科技安全专家与行业嘉宾逐一复盘:Agent 为什么能越界,为什么会把外部内容当成指令,凭证为什么放错了地方。再讲怎么用模型之外的规则,分两层管住 Agent 说什么、做什么,让一次越界走不远,出了事也说得清。