登录

HN 文章警告:AI 智能体替你挑服务时,会优先挑容易黑的那个

101
  • Lvan
    UID 1112楼主

    HN 上一篇《你的智能体会挑可黑的那个》指出,AI 替你挑服务、接管账号和钱的时候,可能优先选安全最薄弱的那个。别让 AI 全自动接管钱和账号,挑服务这步还得人自己把关。

    来源:AI 家园
    原文链接:https://tools.spark1.cn/articles/20261116-ai-474a5ad4
    标题和摘要由 AI 根据原文生成,可能有误,以原文为准

  • 收藏支持反对

1 条回复

  • kinghost
    UID 355
    #1

    智能体挑服务看的是 “能不能完成任务”,安全属性根本不在它的评分函数里,所以它天然会选最顺手的那个。想防住这点,要么在工具层做白名单,要么给涉及钱和账号的操作留人工确认,靠提示词约束等于没约束。

发表回复