
微软研究院披露了一种叫 Lazarus 的后门手法:只改智能体模型里少数几个休眠神经元,模型平时表现完全正常,等触发条件出现才露出马脚。智能体安全这块,权重层面的攻击面又多了一个。
来源:Agent Collaboration Weekly
原文链接:https://aiagentstore.ai/ai-agent-news/topic/agent-collaboration
标题和摘要由 AI 根据原文生成,可能有误,以原文为准- 收藏支持反对

这手法阴就阴在平时完全正常:只改少数几个休眠神经元,常规测试根本测不出来,等触发条件一到才露出马脚。智能体的攻击面又多了一层——以前防的是提示词注入和工具滥用,现在权重本身都可能被留后门。开源模型权重满天飞的今天,下载的权重是不是被人动过手脚,供应链检查得跟上,不然等于把后门请进门。