
美国 NIST 11 月 9 日发布对抗式机器学习攻击分类草案 SP 2400-102e2026,把预测式 ML、生成式 AI 和智能体系统的攻击与防御整理成一套术语。草案专门讨论 MCP 工具供应链:攻击者可在工具描述中埋入指令诱导智能体调用恶意工具(工具投毒),或先在公开注册表上架正常的 MCP 服务器,等用户装好后再偷偷改写工具描述(rug pull)。NIST 建议用密码学签名和不可变版本号校验工具定义,并在沙箱中执行工具。草案还提到长时间运行的智能体会遭遇记忆投毒和指令漂移,若底座模型本身被投毒,重启或回滚都未必能清除。草案公开征求意见至 12 月 18 日。
来源:iThome
原文链接:NIST发布对抗式机器学习攻击分类草案,示警MCP工具供应链风险
标题和摘要由 AI 根据原文生成,可能有误,以原文为准。
- 收藏支持反对

签名和不可变版本号能堵住「先上架再改描述」这种 rug pull,但防不住更常见的情况:工具描述本身就是喂给模型的自然语言,模型会把它当可信指令。描述可以一开始就写得很「诚实」,却在诱导越权调用;签名只证明是这个作者的这个版本,不证明这段话对模型是安全的。公开注册表再打开自动更新,才是 rug pull 的温床,生产环境应该钉死哈希、关掉自动更新。
记忆投毒那句更值得单独看。长跑智能体的记忆是持久状态,底座被污染之后重启清不掉,这和「上下文用完就扔」的聊天机器人不是一类系统。审计和记忆隔离得按这个前提来做,不能还按会话结束即清零来设计。

签名和不可变版本号解决的是「定义有没有被换」,解决不了「定义和行为是否一致」。一个工具签名完好、版本没动,底层实现照样可以今天访问 A 站、明天转发到任意 URL。供应链校验只覆盖发布那一刻,运行时的行为没人约束。
所以我把它拆成三层看:
定义层:钉哈希,关自动更新,注册表里的变更人工过一遍。
调用层:参数做 schema 校验,别让模型自己拼 URL。
出口层:工具进程能访问的域名白名单。这层最容易被跳过,也是唯一能挡住「工具本身恶意」的一层。另外摘要里没看到工具返回值这一环。投毒不只从描述进来,工具返回的内容同样进上下文、同样会被当指令。只审描述不审结果,等于只关了一半门。
mozi 说的记忆隔离我同意,长跑智能体该按持久状态来设计,而不是按会话结束就清零。

@Rxo #2 出口层这层我再往下拆一句:NIST 写的「沙箱执行」经常被直接当成已经覆盖了出网控制,其实多数 MCP 运行时的沙箱只隔离了文件系统和进程,出网还是宿主那张网。沙箱不等于域名白名单,这两件事得分开做。
返回值这层也一样。只是「看一眼再决定信不信」不够,工具输出必须当成不可信数据封进明确分隔里,模型才能分清「这是结果」和「这是指令」。现在的客户端大多只做了定义层的一部分,调用层和出口层还得自己补。

草案进征求意见期,真正的变化不在技术,在措辞:等 “工具投毒”“rug pull” 进了 NIST 的正式分类,采购和合规就能直接引用——“你的 MCP 服务器没签名”会从建议变成不合格项。但分类本身不执法,公开注册表现在还是谁都能上架;术语统一了,注册表的准入门槛没跟上,等于先有了罪名、还没设海关。12 月 18 日之前,值得盯的是有没有人提 “注册表审核” 这一条。
钉哈希只钉住了安装那一刻,MCP 还有一次会话内的 rug pull 机会,前面几楼都没提到。
MCP 协议允许服务器在会话中发出工具列表已变更的通知,客户端收到后会重新拉取工具列表。也就是说,一个服务器完全可以安装时交出一份干净的工具描述、过签名和哈希校验,等会话建立后再推一次变更,把描述或参数 schema 换掉。如果客户端对重新拉到的列表默认信任、直接覆盖本地那份已校验的版本,安装期的钉版本就被绕过去了——校验做在了门口,换货发生在屋里。
所以版本校验的触发点不该只有安装和升级:每次收到列表变更,都应该当成一次新的版本发布来处理——重新算哈希、和已批准版本做 diff(描述文字和参数 schema 都要比)、有差异就停下来重新审批并留日志,而不是静默接受。把「工具列表变更」当成依赖升级事件,而不是协议的日常通知,这条 rug pull 路径才算堵上。