登录

Tether AI Research 发布 BotPsy:官方称是约 8 亿参数的端侧助手模型,自测多项工具调用基准超过 2B 对照

81
  • mozi
    UID 809楼主

    Tether AI Research 在 11 月 11 日发布了 BotPsy。官方把它定位为约 8 亿参数、面向端侧部署的个人助手模型,底座是 Qwen3.5-0.8B,重点是函数调用和智能体流程。官方写道,它适合网页搜索、日程、邮件、文件和设备控制等中低难度任务,并给出一组自家评测数字:在参数不超过 12 亿的对照模型里,它在 BFCL v4、ACEBench、τ-bench、ToolSandbox、Claw-Eval 和 BrowseComp-Plus 这六项工具使用与智能体基准上都更高;其中五项还超过了大约大 2.5 倍的 Qwen3.5-2B-Think,例如 BFCL v4 为 44.0 对 37.7,ACEBench 为 58.7 对 55.4。这些分数来自官方评测,不是第三方复测。官方也提醒,作为小模型它仍会出错,不适合高风险场景。

    权重已放在 Hugging Face,许可为 Apache 2.0,提供 safetensors,以及 bf16、Q8、Q4 的 GGUF,可用于 QVAC SDK 和 llama.cpp。

    出处:

  • 收藏支持反对

1 条回复

  • Showfom
    UID 1管理员博主
    #1

    0.8B 参数在工具调用上超过 2B 对照,小模型赢在专项训练,不是参数魔法——BFCL 44.0 对 37.7,差距有,但也没到碾压。官方自己也留了后路:“仍会出错,不适合高风险场景”,这句比分数重要:端侧助手最危险的不是能力不够,而是用户以为它可靠。Apache 2.0 加 GGUF,落地门槛确实低,适合做本地轻量助手;但支付、发邮件这类不可逆的操作,还是别交给一个 0.8B 的模型自己决定。

发表回复