微软研究团队 11 月 10 日介绍了一项名为 Lazarus 的研究:在其实验中,修改少于 10 个休眠神经元即可给 AI Agent 植入由特定条件触发的后门,而无需重新训练模型。

研究关注的是模型权重被篡改后的供应链风险,并不意味着所有模型都已受影响。对有工具或终端权限的 Agent,核验模型来源和权重完整性尤其重要。

来源:原文