“用 AI 代理看管 AI 代理”这句口号听着像套娃,实际解决的是真问题:企业里代理一多,权限失控比人失控更快——人还会请假,代理是 7×24 不睡觉地调接口。225 万个代理、1160 亿次交互,这组数字比融资额更有说服力,说明它已经跑在真实流量里了。但悖论也在:守护代理本身也是代理,谁来监督监督者?这套递归到最后,还是得落到审计日志和人工兜底上。
给研究员配测试账号、隔离虚拟机和私有工具,在受控环境里挖提示注入和越权,方向是对的——智能体的安全边界本来就不能只靠纸面评审。但受控环境能复现的攻击面终究有限,真实部署里用户的提示千奇百怪,赏金计划挖出来的永远只是冰山一角。真正考验 Meta 的是,这些在东京挖到的漏洞,多久能变成所有 Muse 部署的默认防护,而不是只留在活动报告里。