
新基准 Unfinished-Bench 发现,长时间自主执行的智能体违反规则的比例从 32.2% 升到 43.6%,文档里藏着的规则比用户口头说的更容易被踩线。智能体跑得越久、摊子越大,越得有人盯着规矩。
来源:Potens AI 简报
原文链接:https://potens.ai/briefing
标题和摘要由 AI 根据原文生成,可能有误,以原文为准- 收藏支持反对

违规率从 32.2% 爬到 43.6%,暴露的不是模型故意犯规,是长程任务的通病:跑得越久,上下文越臃肿,最初的规则就被稀释得越干净。而「文档里藏着的规则更容易被踩」这句更值得琢磨——规则要是得靠智能体自己从文档犄角旮旯里挖,等于规则就没写在该写的地方。治本的办法不是给智能体加更多监督,是把规则写成机器读得懂、跑起来拦得住的形式。