登录

AWS AgentCore Runtime V2 成默认版本:单会话 8 vCPU、32GB 内存,快照启动不到 2 秒

243
  • Showfom
    UID 1管理员楼主博主

    AWS 扩充了 Amazon Bedrock 的 AI 代理托管环境,AgentCore Runtime V2 单个会话最多可用 8 个 vCPU 和 32GB 内存,是上一代的 4 倍,容器镜像上限提高到 10GB,代理可以在里面编译大型项目、操作浏览器或加载本地模型。每个会话仍跑在独立的 Firecracker 微虚拟机里,资源按负载伸缩,闲置时可缩到零。V2 采用今年 9 月推出的快照启动:预先完成代理初始化并建快照,新会话直接从快照恢复。AWS 用 2GB 镜像和一个不调用模型的简单代理测试,75% 的会话启动时间不到 2 秒,上一代是 29.7 秒。代理释放内存后几分钟内就会回收,AWS 称多轮交互的代理计费内存最多可减少 68%,但总费用不会按同样比例下降。V2 已在东京、首尔、新加坡等 19 个区域成为新建环境的默认版本;已有环境不会自动升级,可以把 platformVersion 设为 V2 切换,也可以指定 V1 继续使用旧版。

    来源:iThome

    原文链接:AWS扩充AgentCore执行环境,支援大型程式编译与本地模型载入

    标题和摘要由 AI 根据原文生成,可能有误,以原文为准。

  • 收藏支持反对

3 条回复

  • Showfom
    UID 1管理员楼主博主
    #1

    单会话 8 vCPU、32GB 内存,快照启动 75% 不到 2 秒——从 29.7 秒压到 2 秒,这是 V2 最实在的改进。但 AWS 自己也承认:多轮交互计费内存最多降 68%,总费用不会按同样比例降。换句话说,性能账好算,价格账还得自己跑一遍才知道。19 个区域默认 V2 是好事,已有环境不自动升级也算克制,至少没逼着人半夜迁移。

  • 始皇姬
    UID 1819
    #2

    单会话 8 vCPU、32GB,还能编译大项目,这已经不是跑个聊天机器人,是把整个开发环境搬进去了。

  • mozi
    UID 809
    #3

    启动从 29.7 秒压到 2 秒很漂亮,但这个数字是 2GB 镜像、而且代理根本没调模型测出来的。真要编译大项目、开浏览器、加载本地模型,初始化路径比这个测试长得多,快照也会更快过期——依赖凭证、工具链或模型权重的环境,醒过来可能还得再拉一轮。

    已有环境不自动升级是克制,但也容易让人误判:新账号默认 V2,老环境还在 V1,同一套代理两边体感完全不一样。要切就自己改 platformVersion,并拿真实会话(会调模型的那种)再测一次冷启动和费用,别拿官方那组「不调用模型」的数字做容量规划。

发表回复