AI 编程实时动态与要闻

11 月 12 日，IBM Granite 团队在 Hugging Face 发布 LLMON（LLM Object Notation，读作「lemon」）：用词表里的保留特殊 token 包裹带语义标签的块（指令、数据、要求等），每块有唯一 ID，再由一个 exec 执行块指定要运行哪条指令、作用于哪些数据。同时开源两款实验预览模型 granite-4.1-3b-LLMON-preview 和 granite-4.1-8b-LLMON-preview（Apache 2.0），附带 GitHub 工具包、JSON 与 LLMON 无损互转工具。官方称在 OPI 间接提示注入基准上，LLMON 模型比测试中最好的前沿模型多挡住 47% 的攻击、比最好的开源模型多挡住 95%，通用能力与 Granite 4.1 Instruct 持平；但这只是学到的行为、不是强制保证，目前仅为实验预览，不建议用于生产。

查看大图

AWS 本周推出 Nitro Sandboxes，并于 11 月 11 日（北京时间 12 日凌晨）在官方 X 账号再次推介。它是一种由 Nitro Hypervisor 管理的轻量 VM：每个 EKS Pod、ECS 任务或 EC2 上的工作负载都有自己的内核和硬件隔离边界，但仍跑在你已有的 EC2 实例里。AWS 明确把“AI Agent 执行 LLM 生成的代码”列为核心场景：每个会话一个沙箱，被提示注入诱导执行的代码只会困在这台 VM 里，会话结束即删除。EKS/ECS 开启只需改一行配置，大多数 Nitro 实例、所有商业区域可用，不额外收费。

查看大图

在 GTC Berlin 大会上，NVIDIA 官方正式发布 OpenShell 智能体安全参考架构与全新的 Agent Knowledge Foundation 套件。针对自主 AI 智能体（Autonomous Agents）在拥有系统写权限、数据库查询与终端执行能力后，极易因提示词注入或失控执行产生越权访问机密数据、发起破坏性命令的行业痛点，OpenShell 基于硬件级隔离信任根（Hardware-Isolated Security）构建了严密的运行时安全边界。系统能够以纳秒级开销实时监控并拦截智能体跨越授权边界的工具调用与数据交互，成为企业级安全可靠智能体调度的基石标准。

查看大图

南方科技大学系统安全研究团队联合发布自主智能体运行时防护框架 ActGov（arXiv:2609.24446）。针对 LLM Agent 在长程复杂任务中调用外部工具时易受不可信输出影响并突破授权边界（如间接提示注入导致恶意删除数据或转账）的核心威胁，ActGov 构建了兼具静态 SMT 形式化验证与动态运行时拦截的双层防护网。系统将工具调用转化为有限策略记录，并在操作生效前进行毫秒级权限边界核验。在业界权威安全基准 AgentDojo 与 AgentDyn 的多模型跨攻击测试中，ActGov 在保持 100% 任务正常可用性的同时，将间接提示注入攻击的成功率压制至近乎为零，显著超越现存所有基于静态提示过滤的防御方案。

查看大图

大模型安全与对齐权威研究团队在 Hugging Face 与 GitHub 正式开源了《Just Ask Jev: Reinforcement Learning for Calibrated Decisions as a Zero-Shot Detector of AI Alignment Failures》（arXiv: 2609.29429，GitHub: sumleo/RLCDAlignBench）。针对当前工业界对大模型进行对齐安全审计（如提示词注入、阿谀奉承、越狱、欺骗与权力寻求）主要依赖生成式大模型裁判（LLM-as-a-Judge）导致单项测试成本昂贵、或者依赖固定标签分类器（如 Llama Guard）导致单次只能吐出一个分类标签的局限，团队提出了基于校准决策强化学习（RLCD）训练的专用多维判定模型 Jev。配合首创的十维对齐基准 RLCDAlignBench，Jev 仅凭单次模型前向推演即可输出多个具有严格数学概率校准的多标签判定，中位数 AUROC 达 0.886，评测成本剧降 63 倍。

查看大图

顶尖安全与系统研究团队在 Hugging Face 与 ArXiv 正式公开了《AgentKernel: The Trust-Native Agentic Operating System》（arXiv: 2609.29647）。随着自主 Agent 频繁摄入不可信网络内容并调用高权限系统工具，中间人提示注入（Prompt Injection）、记忆投毒（Memory Poisoning）与工具越权已成为制约智能体落地的最严峻瓶颈。AgentKernel 首次打破将安全寄托于脆弱应用层中间件的局限，从操作系统内核级构建了跨“身份（Identity）、感知（Perception）、认知（Cognition）、执行（Execution）”四大支柱的强制性不可绕过安全边界，将系统级结构安全转化为智能体的生产力倍增器。

查看大图

Google Gemini CLI 于 2026-09-23 将稳定通道推进到 v0.61.0（npm @google/[email protected]）。相对 v0.60.0，本版把间接 Prompt Injection 防护、沙箱文件系统边界与运行时状态隔离、AgentLoopContext 在对象展开时的属性保留，以及显式版本化 Flash 模型 ID 不被覆盖等修复合入稳定线。

查看大图

Context7（@Context7AI / Upstash）发布 Context7 Search：面向编码智能体的 grounding API。一次 GET 即可返回由库作者维护、并经 prompt injection / 恶意代码扫描的官方文档片段，强调比开放网页搜索更安全、更省 Token。免费档每月 1,000 次调用；Pro 每席每月 5,000 次，超出后每千次 10 美元。

查看大图