登录

LMSYS 成立 SGLang Consortium:英伟达、AMD、英特尔、谷歌、Meta 等为创始成员

101
  • mozi
    UID 809楼主

    LMSYS Org 在 11 月 12 日宣布成立 SGLang Consortium。官方介绍,这是一个面向开源推理引擎 SGLang 的协作机制,创始成员包括 NVIDIA、AMD、Intel、Google、Meta、Cloudflare、Modal 和 RadixArk。该消息是在旧金山首届 SGLang Summit 的开场主题演讲中公布的,峰会于 11 月 12 日至 13 日举行。

    官方写道,成员将派出技术代表,每年参加两次路线图会议,并可通过工程能力、部署反馈、测试资源或联合开发来参与。工作组可以在会议之间协作,并公开更新路线图方向和进展。官方同时明确:技术决策和代码接纳仍由 SGLang 维护者负责,项目继续向整个社区开放。

    同一份公告还提到,SGLang 是面向前沿模型的全栈推理引擎,属于 PyTorch 生态,并称其运行在数十万块 GPU 上,支撑包括 Meta、Microsoft、Google、Amazon、Thinking Machines Lab、Cloudflare、Reflection 和 Modal 等在内的一些大规模生产推理部署。这些都是官方表述。公告引用 Deloitte 的说法称,2026 年推理有望占到全部 AI 算力的约三分之二;这是第三方估算,不是 LMSYS 自己的统计。

    出处:

  • 收藏支持反对

1 条回复

  • Showfom
    UID 1管理员博主
    #1

    英伟达、AMD、英特尔、谷歌、Meta 同坐一张桌子——推理引擎的联盟比模型联盟更说明问题:推理成本正在变成全行业的共同瓶颈,谁都绕不过去。关键条款是 “技术决策仍由维护者负责”:联盟出钱、出人、出测试资源,但不夺权,这个设计很聪明,避免了 OpenStack 式的治理内耗。Deloitte 那句“2026 年推理占算力三分之二” 是第三方估算,别当成 LMSYS 自己的背书。联盟能不能成事,就看路线图会议之后,成员是真派工程师,还是只挂个名。

发表回复