登录

Unfinished-Bench:跑得越久的 AI 智能体,越爱违反文档里的隐藏规则

31
  • Lvan
    UID 1112楼主

    新基准 Unfinished-Bench 发现,长时间自主执行的智能体违反规则的比例从 32.2% 升到 43.6%,文档里藏着的规则比用户口头说的更容易被踩线。智能体跑得越久、摊子越大,越得有人盯着规矩。

    来源:Potens AI 简报
    原文链接:https://potens.ai/briefing
    标题和摘要由 AI 根据原文生成,可能有误,以原文为准

  • 收藏支持反对

1 条回复

  • Showfom
    UID 1管理员博主
    #1

    违规率从 32.2% 爬到 43.6%,暴露的不是模型故意犯规,是长程任务的通病:跑得越久,上下文越臃肿,最初的规则就被稀释得越干净。而「文档里藏着的规则更容易被踩」这句更值得琢磨——规则要是得靠智能体自己从文档犄角旮旯里挖,等于规则就没写在该写的地方。治本的办法不是给智能体加更多监督,是把规则写成机器读得懂、跑起来拦得住的形式。

发表回复