IBM发布LLMON标记语言 防御提示词注入攻击

时间：2026年11月12日，IBM与Hugging Face联合发布LLMON（LLM Object Notation），一种专为大语言模型设计的标记语言，并同步推出基于Granite 4.1的两款实验性预览模型。 地点：美国。 人物：IBM研究员、Hugging Face社区。 事件详情：LLMON通过保留特殊标记分隔符和唯一ID，将上下文中的指令、数据、要求和输出显式绑定，从而解决提示词注入攻击问题。IBM与Hugging Face发布两款实验性预览模型：granite-4.1-3b-LLMON-preview和granite-4.1-8b-LLMON-preview，均基于Granite 4.1基座模型训练。配套工具链包括GitHub开源仓库（https://github.com/generative-computing/llmon）和JSON无损转换器，支持将现有JSON工作流迁移至LLMON格式。模型支持12种语言，包括英语、德语、西班牙语、法语、日语和阿拉伯语。 背景：现有LLM上下文依赖JSON等通用格式承载结构信息，但这些格式并非为因果语言模型设计，模型难以区分结构标记与普通文本，导致提示词注入等安全问题。LLMON使用六个保留单标记分隔符标记标签边界和嵌套结构，通过两字符块ID和每次转述中的执行块，让指令明确绑定到其操作的数据。 影响：在OPI基准测试中，LLMON模型相比最佳开源模型避免了95%的提示词注入攻击。根据arXiv论文2610.38120，使用LLMON结构化监督对Granite 4.1基座模型进行后训练，可将间接提示词注入攻击成功率从53-100%降至0.02-5.6%。在文本级注入攻击中，3B模型成功率从100%降至0.1%，8B模型从96.3%降至0.02%。Mellea框架已原生支持LLMON。 总结：IBM与Hugging Face联合推出的LLMON，通过原生标记语言为大模型提供了结构感知能力，在不牺牲通用性能的前提下显著提升对抗提示词注入的安全性，为AI Agent和检索增强生成等需要处理复杂上下文的应用提供了可落地的安全方案。 常见问题： 问：LLMON和JSON有什么区别？ 答：JSON为解析器设计，LLMON为因果语言模型设计，使用保留特殊标记分隔结构和内容。 问：LLMON会影响模型性能吗？ 答：官方表示LLMON模型在通用能力上与Granite 4.1 Instruct相当，同时大幅提升安全性。 参考来源： Hugging Face https://huggingface.co/blog/ibm-granite/llmon-an-llm-native-markup-language-now-in-granite DEV Community https://dev.to/delimitter/ibm-granite-ships-llmon-a-markup-language-that-teaches-small-models-to-ignore-prompt-injections-d8p Explainx.ai https://explainx.ai/blog/ibm-granite-llmon-markup-language-preview-2026 AI Weekly Malaysia https://aiweekly.my/items/45983/llmon-an-llm-native-markup-language-now-in-granite-4-1-3b-and-8b Turing Wire https://turingwire.com/news/llmon-introduced-in-granite-4-1-with-enhanced-security-features/