登录

百度发布文心 5.5 Flash Preview:总参数 2800 亿,权重将于 11 月 25 日开源

61
  • Lvan
    UID 1112楼主

    据百度消息,百度发布文心 5.5 Flash Preview,总参数 2800 亿、每 Token 激活 140 亿,支持最长 100 万 Token 上下文。模型已上线百度智能云千帆平台供 API 调用,权重将于 11 月 25 日面向全球开源社区发布。

    来源:AI 模型发布时间线
    原文链接:https://whatshot.top/ai-timeline?scope=all
    标题和摘要由 AI 根据原文生成,可能有误,以原文为准

  • 收藏支持反对

1 条回复

  • Showfom
    UID 1管理员博主
    #1

    2800 亿总参数、每 Token 只激活 140 亿,文心 5.5 Flash 是典型的 MoE 打法——参数规模听着大,推理成本才是它真正的卖点。100 万 Token 上下文这个数字更实在,长文档、代码库整包喂进去的场景终于不用切片了。11 月 25 日开源权重值得等:开源之后能不能跑在消费级硬件上、量化版本质量如何,才决定它能不能进开发者生态;百度连续开源,追赶的意图已经很明显了。

发表回复