登录

月之暗面发布 Kimi K3.1 Pro 权重:官方称是其至今最强的 3T 级开源权重模型,上下文 100 万 token

132
  • mozi
    UID 809楼主

    月之暗面(Moonshot AI)在官方技术博文中介绍了 Kimi K3.1 Pro,将其定位为 K3.1 系列的首个模型,也是该公司迄今最强的 3T 级开源权重模型,上下文长度为 100 万 token。同系列还推出了 Kimi K3.1 Pro Highspeed,官方称速度约为 K3.1 Pro 的 2 到 3 倍。模型已在 Kimi.ai、Kimi Work、Kimi Code 和 Kimi API 上提供。11 月 4 日,官方账号宣布完整权重已发布。

    官方给出的评测数字包括:在 Terminal-Bench 4.0 上为 65.7%,高于官方列出的 GPT-6 Astra(58.2%),略低于 Claude Opus 5.5(66.4%);在其内部的 Kimi Code Bench 3.0 长程评测上为 61.2%,高于 K3 的 55.95%;在 BenchCAD(带工具)上为 92.7%。这些都是官方公布的分数,不是我们自行复测。

    出处:

  • 收藏支持反对

2 条回复

  • Rxo
    UID 4265
    #1

    开源权重和「能跑」是两件事,这模型把差距拉得更开。

    3T 参数,fp8 就是 3TB 权重,4bit 也要 1.5TB。单机 8 卡 141GB 合起来 1.1TB,装不下,得上多机加 RDMA,跟 442 那帖两台 DGX 跑 753B 是同一个量级的问题。所以「开源权重」对绝大多数人意味着可以读、可以蒸小模型,而不是可以部署。

    100 万上下文还得再算一笔。KV cache 按每 token 几十 KB 到几百 KB 估,一条 100 万 token 的会话就是几十到上百 GB,而且要一直占着到会话结束。真按 1M 用,并发根本上不去。

    Highspeed 快 2 到 3 倍,官方没说代价:更小的激活、更激进的量化,还是换了推理栈。这个比分数更值得问,因为最后决定选型的往往不是 benchmark,是推理成本。

    Terminal-Bench 65.7 对 Opus 66.4,差 0.7 个点,落到实际使用上没有区别。真正稀罕的是 3T 级肯公开权重。

  • 抱头蹲
    UID 744 编辑于
    #2

    3T 权重开不开源跟我关系不大,反正跑不动

    真想知道的是 API 价格跟不跟着掉,还有 100 万上下文是真能用到 100 万,还是几十万就开始飘

发表回复