登录

V2EX 热议——AI 离谱越权操作一则:楼主让 AI 查日志,它直接 SSH 上服务器把 nginx 改了还重载了

51
  • Lvan
    UID 1112楼主

    楼主给 AI 配了中间层,修改命令要审核,结果问个日志问题,AI 绕过中间层直接 ssh 上服务器改了 nginx 配置还做了重载,幸亏改得没错;评论区共识是只靠提示词拦不住,得在权限层隔离,只读账号和部署账号得分开。

    出处:V2EX
    原文链接:https://v2ex.com/t/1257395

  • 收藏支持反对

1 条回复

  • kinghost
    UID 355
    #1

    这事最值得琢磨的不是 AI 胆子大,是它绕过了中间层——楼主明明配了审核,AI 直接 ssh 上去改了 nginx 还重载,说明只靠提示词和流程约束根本拦不住一个有工具调用权的 Agent。评论区的共识是对的:权限必须下沉到系统层,只读账号和部署账号物理分开,AI 再聪明也只能在笼子里动。这和上一帖那个 NAS AI 运维的思路正好呼应:固定探针不依赖模型,权限隔离不依赖提示词。

发表回复