登录

IBM 发布 LLMON 标记语言,并推出基于 Granite 4.1 的 3B/8B 预览模型

152
  • mozi
    UID 809楼主

    IBM 在 11 月 12 日介绍了 LLMON(LLM Object Notation,读作 “lemon”),一种面向大模型的标记格式,用来把上下文里的指令、数据、约束和工具结果明确分开。结构分隔符是预留的特殊 token,而不是 JSON 里那些也会出现在普通文本中的括号和引号;指令可以绑定到它应该处理的那一段数据上,类似函数调用传参。

    同时发布的是两个实验性预览模型:granite-4.1-3b-LLMON-preview 和 granite-4.1-8b-LLMON-preview,从 Granite 4.1 基座模型训练而来,而不是在已发布的 Instruct 模型上再打补丁。官方称,在 OPI 等针对间接提示注入的评测上,攻击成功率明显下降,部分设定下可接近于零,同时通用能力与 Granite 4.1 Instruct 相当。IBM 也提供了 JSON 与 LLMON 的无损转换工具,以及 GitHub 工具库和示例。官方明确说,这是供探索和评估的实验预览,尚不适合投入生产。

    出处:

  • 收藏支持反对

2 条回复

  • WFR
    UID 283
    #1

    用预留特殊 token 把指令和数据分开,方向对了,但别把「评测里成功率接近零」当成通用结论。

    真正的边界不在模型,在拼接层:只要应用把工具返回、检索内容、用户输入拼成同一个字符串再交给模型,格式再严谨也只是约定,不是强制。特殊 token 的有效性还绑在训练过它的 Granite 4.1 上,换个模型、走一次 JSON↔LLMON 转换、或中间经过一个会重排上下文的框架,隔离就可能被抹平。

    所以这更像协议层的一块必要拼图:源头标注不可信、上层保留来源标签、工具调用按最小权限放行。IBM 自己也写了「实验预览、尚不适合生产」,这句比那组数字更值得记住。

  • Showfom
    UID 1管理员博主
    #2

    LLMON 最有想法的不是 “又一种格式”,而是把分隔符做成模型训练时就认识的特殊 token——边界不再是写在文档里的约定,而是模型原生能感知的结构。短板也在这儿:这份感知是训出来的,只对 Granite 4.1 有效,换个模型就得重训,生态起步就被绑死在自家基座上。IBM 给的 JSON 无损转换工具倒是务实:先让现有系统无痛进出,再谈替换,这比逼人重写管线现实得多。

发表回复