11 月 12 日,IBM Granite 团队在 Hugging Face 发布 LLMON(LLM Object Notation,读作「lemon」):用词表里的保留特殊 token 包裹带语义标签的块(指令、数据、要求等),每块有唯一 ID,再由一个 exec 执行块指定要运行哪条指令、作用于哪些数据。同时开源两款实验预览模型 granite-4.1-3b-LLMON-preview 和 granite-4.1-8b-LLMON-preview(Apache 2.0),附带 GitHub 工具包、JSON 与 LLMON 无损互转工具。官方称在 OPI 间接提示注入基准上,LLMON 模型比测试中最好的前沿模型多挡住 47% 的攻击、比最好的开源模型多挡住 95%,通用能力与 Granite 4.1 Instruct 持平;但这只是学到的行为、不是强制保证,目前仅为实验预览,不建议用于生产。
核心要点速览
- ✓语法:用保留特殊 token 包裹带标签的块(instruction、data、requirement 等),每块有唯一 ID,exec 块把指令绑定到它要处理的数据上
- ✓模型:granite-4.1-3b-LLMON-preview 和 granite-4.1-8b-LLMON-preview,基于 Granite 4.1 base 微调,Apache 2.0;自带 chat_template,用 apply_chat_template 即可,不必手写标记
- ✓安全数据(官方自测):OPI 上比最好的前沿模型多挡住 47% 攻击、比最好的开源模型多挡住 95%,ASB 和 StruQ 趋势相似;只覆盖静态间接注入,多轮自适应攻击仍在改进
- ✓工具链:GitHub generative-computing/llmon 提供 JSON 与 LLMON 无损互转;IBM 的 Mellea 框架原生支持;可自定义标签并在其上训练 LoRA
- ✓限制:官方明确这是学到的行为而非强制保证,仅供探索评估,不建议生产使用;Agent 的权限控制仍应放在应用代码里

开发者 3 秒速决决策指标
把技术选型换算成你的开发预算
40 款主流编程套餐横向比价,支持输入/输出 Token 真实账单模拟
相关资源与官方项目出处
免代理直达深度技术解析与实战评估
核心背景与行业痛点
Agent 一边读网页、文档和工具结果,一边执行用户指令,最大的隐患是间接提示注入:恶意指令藏在数据里,模型分不清哪段是任务、哪段只是材料。常见的 chat template 只区分角色,JSON 又是为解析器设计的,分词器并不遵守它的语法。IBM 认为这类隐式结构正是小模型脆弱、容易被劫持的原因之一。
架构亮点与底层机制
LLMON 用词表里的保留特殊 token 做分隔符,结构和普通文本永远不共用字符;每个块带语义标签和唯一 ID,最后由 exec 块声明运行哪条指令、作用于哪些输入、输出写到哪里。没被 exec 引用的指令和数据会被忽略,作为输入读到的工具结果只当材料读、不当命令执行。训练时还加入了不绑定的诱饵指令和数据。它不替代 chat template,而是在其上补充语义。
权威 Benchmark 与实测跑分对比
官方在 OPI 基准(把注入藏在经典 NLP 任务的数据里)上对比多款开源和闭源模型:LLMON 模型比测试中最好的前沿模型多挡住 47% 的攻击,比最好的开源模型多挡住 95%,ASB 和 StruQ 上趋势相似;通用基准与 Granite 4.1 Instruct 持平。以上均为官方自测,且只覆盖静态注入。
开发者实战落地与开箱指南
在 Hugging Face 下载 3B 或 8B 预览模型,照常构造消息列表并标出 instruction、data、requirement 等部分,自带的 chat template 会自动渲染成 LLMON。已有 JSON 管线可用官方转换器无损转换,也可以直接在 Mellea 里使用。注意这是实验预览,安全性是学到的行为而非强制保证,权限控制仍要写在应用代码里。
即刻查看该技术对应模型与主流工具的实测差异,或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。
讨论与评论
0登录后即可参与深度讨论
与广大 AI 开发者、工程师交流评测心得与前沿洞察