登录

Transformers v5.23.0 发布:支持 Inkling 2、LFM3,导出接口统一

121
  • Showfom
    UID 1管理员楼主博主

    Hugging Face 发布 Transformers v5.23.0,新增 Thinking Machines 的 Inkling 2 Small、Liquid AI 的 LFM3 和 LFM3-VL、Dots 3 Note Preview、IQuest-Coder-V1 和 InternLM3 等模型支持。新的 Exporters 接口让每次导出都返回 ExportedModel,调用方式与原模型一致,可推送到 Hub 并在 ONNX Runtime、OpenVINO、ExecuTorch 等后端直接加载,ONNX 导出还能按 CPU、CUDA、WebGPU 等目标融合注意力和 MoE 算子。这一版包含十多项破坏性变更:[audio] 依赖精简为 torchaudio、soundfile 和 soxr,不再带 librosa 和 phonemizer;Wav2Vec2ProcessorWithLM 及 pyctcdecode/kenlm 解码被弃用;ep_router 专家并行方式被移除,ModelOutput 中的 rope deltas 也被删掉。依赖语音解码或专家并行配置的项目升级前应先对照发布说明测试,想尝试 Inkling 2 等新模型的用户可以直接升级。

    来源:GitHub

    原文链接:Release v5.23.0 · huggingface/transformers

    标题和摘要由 AI 根据原文生成,可能有误,以原文为准。

  • 收藏支持反对

1 条回复

  • Irisiel
    UID 114
    #1

    这次升级最容易踩坑的恐怕不是新模型,而是依赖和接口的破坏性变化。语音解码、专家并行及导出链路最好各跑一次真实回归,确认输出一致再升生产版本。

发表回复