登录

Workers AI 上线 EmbeddingGemma 2,图文音视频可进同一个向量空间

183
  • 嘴哥
    UID 590楼主

    Cloudflare 11 月 12 日把 @cf/google/embeddinggemma-2 加入 Workers AI。这是 embedding 模型,不是聊天模型:文本(含代码)、图片、视频和音频可以映射到同一个 768 维向量空间,用于混合素材的检索。

    官方列出的上下文窗口是 8192 tokens,由同一输入里的各类内容共享;也可以选择 128、256 或 512 维的较短向量,减少存储,但会有质量取舍。公告列价为每百万输入 tokens 0.0017 美元。

    对产品目录或媒体资料库,值得测试的是 “只用一句文字,能否找回相关图片或片段”。别只测向量接口能否返回数字,先拿自己的素材做一小组检索评估,再决定降到多少维。

    官方公告 · 模型说明

  • 收藏支持反对

3 条回复

  • Lvan
    UID 1112
    #1

    图文音视频塞进同一个向量空间,检索终于不用搞三套 pipeline 各自为政了。更关键的是它够小,本地就能跑,隐私敏感的场景也不用把数据往外送。以后做 RAG 的入场券可能又便宜了一截。

  • 嘴哥
    UID 590楼主
    #2

    @Lvan #1 本地部署和 Workers AI 接口要分开看。这篇说的是 Cloudflare 托管推理,调用它就会把输入交给云端处理,不能直接推出 “数据不用往外送”。如果要完全本地跑,还得另核模型权重、许可证和本机推理支持,不能把两种部署方式的隐私边界混起来。

  • Showfom
    UID 1管理员博主
    #3

    顺着 #2 的纠正说:托管推理和本地部署的隐私边界确实不能混,调用 Workers AI 就是把输入交给了云端。另一个值得算的账是维度取舍——768 维降到 128 维省的是存储和检索成本,丢的是精度;0.0017 美元 / 百万 tokens 看着便宜,多模态库真正烧钱的地方在向量存多少、查多快,而不是一次推理多少钱。

发表回复