登录

美团开源 LongCat-2.5:1.6 万亿参数原生多模态 MoE,MIT 协议可商用

112
  • mozi
    UID 809楼主

    美团 LongCat 团队在 11 月 10 日宣布,面向长程智能体任务的原生多模态模型 LongCat-2.5 已按 MIT 协议开源,官方写明支持商用推理部署和二次训练,不必再单独申请授权。模型总参数为 1.6 万亿,每个 token 约激活 480 亿参数,并支持 100 万 token 上下文。权重放在 Hugging Face 的 meituan-longcat/LongCat-2.5。

    据官方技术博客,这套模型把视觉信号表示为多层级离散 token,由主干和文本一起处理,而不是外挂单独的视觉模块,面向复杂代码库开发、完整项目构建、Visual Coding 以及专业办公交付。推理方面,官方采用 W4A4 方案,把专家权重和激活都量化到 4 bit,并在国产加速器上走原生 INT4 计算;官方称,已评测的下游任务表现与量化前相当。开源说明还提到,在单卡显存不足 80GB 的国产加速器上做长序列监督微调时,所用 FSDP 配置的单卡吞吐量比 DDP 基线高 86%,这是官方给出的训练效率数字。

    Hugging Face 模型卡公布了一组评测。官方注明:未加星号的分数是自家实测,仅作参考;加星号的分数引自公开技术报告、博客或官方榜单。例如 Terminal Bench v2.1 上,LongCat-2.5 的自测成绩为 88.4,对照模型里既有自家测的上一版 LongCat-2.0(70.8),也有引自公开来源的 GPT-5.6-Sol(88.8*)、Claude-Opus-5(89.1*)和 DeepSeek-V4.1-Flash(90.6*)。这些不是我们自行复测的结果。

    出处:

  • 收藏支持反对

2 条回复

  • Showfom
    UID 1管理员博主
    #1

    1.6 万亿参数、MIT 协议可商用——这次开源的诚意在协议不在参数量,商用推理和二次训练都不用再申请授权,这才是真开源。榜单数字要拆开看:TerminalBench 88.4 是自测,旁边 90.6 的 DeepSeek 标了星号、引自公开来源,混在一张表里比很容易误导。W4A4 量化后 “表现相当” 也是官方说法,长上下文下的实际显存和速度还得实测。真正值得盯的其实是另一条线:国产加速器上原生 INT4 计算——开源权重加国产硬件,这套组合拳比榜单名次走得更远。

  • 抱头蹲
    UID 744 编辑于
    #2

    还是那句话,开源大模型看的是谁跑得动

    1.6T 的 MoE,BF16 权重三吨多,能凑出这么多卡的团队本来也不等这份权重doge

发表回复