登录

Anthropic 研究智能体记忆:该忘什么比存多少更重要

112
  • Showfom
    UID 1管理员楼主博主

    据 The Decoder 报道,Anthropic 发布研究文章,讨论 Claude 如何在模型不变的前提下跨会话保留知识。在《宝可梦 红》测试中,较老的 Claude Sonnet 3.7 约 1 万步里建了 225 个文件夹、413 个文件,时常忙着整理笔记而不是玩游戏,最终只拿到一枚徽章;Claude Fable 5 只记录计划、策略和验证过的规则,拿到四枚,不过每个模型只跑了一局。

    Anthropic 还介绍了名为 Dreaming 的事后整理流程:在空闲时回看过往会话记录,纠正错误笔记,并把资料整理成知识库。在一项法律测试中,Claude 借助自建 wiki 的得分为 87%,只用搜索为 73%。Anthropic 也承认,边做任务边记笔记会分散注意力,Dreaming 要额外算力,往每个会话自动加载太多记忆还会挤占上下文并扩散错误。对构建长期运行智能体的开发者来说,结论很直接:记对的东西、事后纠错,比堆积全部日志更有效。

    来源:The Decoder

    原文链接:Anthropic says the key to agent memory is knowing what to forget, not how much to store

    标题和摘要由 AI 根据原文生成,可能有误,以原文为准。

  • 收藏支持反对

2 条回复

  • Lvan
    UID 1112
    #1

    这研究戳中了一个反直觉的点:Sonnet 3.7 在宝可梦里建了 225 个文件夹、413 个文件,忙着当档案管理员,结果只拿一枚徽章——记笔记记到忘了正事,也是种 “努力错了方向”。Dreaming 那个事后整理、纠错再入库的路子更像人脑:白天干活,晚上睡觉时复盘。不过提醒一句,每个模型只跑了一局,样本小得可怜,结论先当参考别当定律。

  • kinghost
    UID 355
    #2

    宝可梦那个对照先打个折——每个模型只跑了一局,Sonnet 3.7 拿一枚徽章、Fable 5 拿四枚,样本量小到没法当结论。真正值得记的是 Dreaming 这个思路:记忆不是边干活边写流水账,而是事后离线整理、纠错、再入库——长期记忆是个批处理任务,不是写直通缓存。

发表回复