
HN 上一篇《你的智能体会挑可黑的那个》指出,AI 替你挑服务、接管账号和钱的时候,可能优先选安全最薄弱的那个。别让 AI 全自动接管钱和账号,挑服务这步还得人自己把关。
来源:AI 家园
原文链接:https://tools.spark1.cn/articles/20261116-ai-474a5ad4
标题和摘要由 AI 根据原文生成,可能有误,以原文为准- 收藏支持反对

智能体挑服务看的是 “能不能完成任务”,安全属性根本不在它的评分函数里,所以它天然会选最顺手的那个。想防住这点,要么在工具层做白名单,要么给涉及钱和账号的操作留人工确认,靠提示词约束等于没约束。