11 月 12 日,IBM Granite 团队在 Hugging Face 发布 LLMON(LLM Object Notation,读作「lemon」):用词表里的保留特殊 token 包裹带语义标签的块(指令、数据、要求等),每块有唯一 ID,再由一个 exec 执行块指定要运行哪条指令、作用于哪些数据。同时开源两款实验预览模型 granite-4.1-3b-LLMON-preview 和 granite-4.1-8b-LLMON-preview(Apache 2.0),附带 GitHub 工具包、JSON 与 LLMON 无损互转工具。官方称在 OPI 间接提示注入基准上,LLMON 模型比测试中最好的前沿模型多挡住 47% 的攻击、比最好的开源模型多挡住 95%,通用能力与 Granite 4.1 Instruct 持平;但这只是学到的行为、不是强制保证,目前仅为实验预览,不建议用于生产。

核心要点速览

  • ✓语法:用保留特殊 token 包裹带标签的块(instruction、data、requirement 等),每块有唯一 ID,exec 块把指令绑定到它要处理的数据上
  • ✓模型:granite-4.1-3b-LLMON-preview 和 granite-4.1-8b-LLMON-preview,基于 Granite 4.1 base 微调,Apache 2.0;自带 chat_template,用 apply_chat_template 即可,不必手写标记
  • ✓安全数据(官方自测):OPI 上比最好的前沿模型多挡住 47% 攻击、比最好的开源模型多挡住 95%,ASB 和 StruQ 趋势相似;只覆盖静态间接注入,多轮自适应攻击仍在改进
  • ✓工具链:GitHub generative-computing/llmon 提供 JSON 与 LLMON 无损互转;IBM 的 Mellea 框架原生支持;可自定义标签并在其上训练 LoRA
  • ✓限制:官方明确这是学到的行为而非强制保证,仅供探索评估,不建议生产使用;Agent 的权限控制仍应放在应用代码里
IBM 发布 LLM 原生标记语言 LLMON 和两款 Granite 4.1 预览模型(3B/8B):用保留 token 把指令和数据分开,OPI 间接注入测试中比最好的前沿模型多挡住 47% 的攻击
🖼️要闻配图
点击全屏高清查看
🧭

把技术选型换算成你的开发预算

40 款主流编程套餐横向比价,支持输入/输出 Token 真实账单模拟

🔬

深度技术解析与实战评估

核心背景与行业痛点

Agent 一边读网页、文档和工具结果,一边执行用户指令,最大的隐患是间接提示注入:恶意指令藏在数据里,模型分不清哪段是任务、哪段只是材料。常见的 chat template 只区分角色,JSON 又是为解析器设计的,分词器并不遵守它的语法。IBM 认为这类隐式结构正是小模型脆弱、容易被劫持的原因之一。

架构亮点与底层机制

LLMON 用词表里的保留特殊 token 做分隔符,结构和普通文本永远不共用字符;每个块带语义标签和唯一 ID,最后由 exec 块声明运行哪条指令、作用于哪些输入、输出写到哪里。没被 exec 引用的指令和数据会被忽略,作为输入读到的工具结果只当材料读、不当命令执行。训练时还加入了不绑定的诱饵指令和数据。它不替代 chat template,而是在其上补充语义。

权威 Benchmark 与实测跑分对比

官方在 OPI 基准(把注入藏在经典 NLP 任务的数据里)上对比多款开源和闭源模型:LLMON 模型比测试中最好的前沿模型多挡住 47% 的攻击,比最好的开源模型多挡住 95%,ASB 和 StruQ 上趋势相似;通用基准与 Granite 4.1 Instruct 持平。以上均为官方自测,且只覆盖静态注入。

开发者实战落地与开箱指南

在 Hugging Face 下载 3B 或 8B 预览模型,照常构造消息列表并标出 instruction、data、requirement 等部分,自带的 chat template 会自动渲染成 LLMON。已有 JSON 管线可用官方转换器无损转换,也可以直接在 Mellea 里使用。注意这是实验预览,安全性是学到的行为而非强制保证,权限控制仍要写在应用代码里。

实战指南准备好将技术转化为生产力?

即刻查看该技术对应模型与主流工具的实测差异,或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。

接着读Perplexity 开源决策模型 pplx-decider v1.3:新增 Locate 原文片段抽取,26B 版 63 项分类任务平均准确率 91.6%,Apache 2.0,OpenRouter 免费至 11 月 19 日
立即阅读→