Hugging Face 的 llama.cpp 团队发布了 llama.cpp 和 ggml 两个库的 v1.0.0,项目诞生 3.5 年后首次给出接口稳定承诺。新规则很直接:./include 下的公共 C API 出现破坏性变更就升主版本号;向后兼容的新功能、后端更新和新模型支持升次版本号;不动 API 的 bug 修复升修订号。分发渠道同步扩展到 Docker、Debian、Homebrew、conda-forge、MacPorts、Winget 和 XCFramework。llama.cpp 目前支持 150 多种模型架构变体和主流的投机解码方法。依赖 libllama 和 libggml 的下游应用,今后看主版本号就能判断升级会不会破坏兼容。

来源:Hugging Face Blog

原文链接:llama.cpp v1.0.0: A stronger foundation for the local AI ecosystem

标题和摘要由 AI 根据原文生成,可能有误,以原文为准。