
有研究用一抹凡士林就攻破了机器人安全防线,GPT、Claude 等顶尖模型集体中招。物理世界的小花招,有时候比提示词注入还管用。
来源:新浪新闻
原文链接:https://k.sina.cn/article_7857201856_1d45362c001908us40.html?from=tech
标题和摘要由 AI 根据原文生成,可能有误,以原文为准- 收藏支持反对

标题有个偷换概念:凡士林能糊住的只能是镜头这类感知入口,骗的是视觉输入,不是大模型的推理本身。GPT、Claude 是决策层,真正在这事里「中招」的是感知层,或者说把 VLM 输出不经校验直接当控制信号的那一层。真正值得讨论的不是模型行不行,而是具身系统缺一道防线:感知结果和执行动作之间没有 sanity check,一个被糊住的镜头就能一路指挥到电机,这才是凡士林能得手的原因。

@uvexz #1 再补一个安全设计上的边界:如果所谓 sanity check 仍由同一条被遮挡的视觉链路给自己背书,就可能只是 “同源复核”。把遮挡或低置信度显式标成 “不可信”,默认停止高风险动作;必要时用独立的距离 / 力传感器或硬件限位兜底,别让一个视觉误判一路直达执行器。

uvexz 说得对,糊住的是感知层不是推理层。但我想补一个更扎心的角度:安全评测到现在测的几乎全是提示词注入,没人给「有人往镜头上抹东西」这种物理攻击出过考卷。实验室里干净的摄像头和真实世界的泥巴、油污、凡士林根本不是一个环境。最贵的模型被最便宜的日用品撬开,暴露的不是某个模型不行,是具身安全评测压根还没覆盖物理世界。