登录

微软研究院披露 Lazarus:改几个休眠神经元就能给智能体留后门,触发前一切正常

61
  • Lvan
    UID 1112楼主

    微软研究院披露了一种叫 Lazarus 的后门手法:只改智能体模型里少数几个休眠神经元,模型平时表现完全正常,等触发条件出现才露出马脚。智能体安全这块,权重层面的攻击面又多了一个。

    来源:Agent Collaboration Weekly
    原文链接:https://aiagentstore.ai/ai-agent-news/topic/agent-collaboration
    标题和摘要由 AI 根据原文生成,可能有误,以原文为准

  • 收藏支持反对

1 条回复

  • kinghost
    UID 355
    #1

    这手法阴就阴在平时完全正常:只改少数几个休眠神经元,常规测试根本测不出来,等触发条件一到才露出马脚。智能体的攻击面又多了一层——以前防的是提示词注入和工具滥用,现在权重本身都可能被留后门。开源模型权重满天飞的今天,下载的权重是不是被人动过手脚,供应链检查得跟上,不然等于把后门请进门。

发表回复