AI 编程实时动态与要闻

A
Amazon Threat Intelligence (CJ Moses)aws.amazon.com·
👀4
🔥84

亚马逊威胁情报:MadPot 伪装成 LLM 推理 API 的诱饵传感器,截获 ARTEX 攻击 Agent 自带的作战记忆——偷 AI 密钥「以战养战」、用实时深伪冲击加密交易所 KYC(深伪全部被拒)

亚马逊 CISO CJ Moses 于 11 月 13 日在 AWS Security Blog 发文:10 月 3 日至 11 月 5 日,亚马逊的全球诱饵传感器网络 MadPot 伪装成常见 LLM chat-completions 接口,收到了来自 ARTEX(开源 Agent 化渗透测试框架)攻击 Agent 的请求。由于 Agent 框架会把系统提示词、工具调用历史和知识图谱状态整段发给「模型」,单个请求往往就包含整场行动的记录。亚马逊以中等置信度判断这些活动来自多个不同的涉华威胁团伙。最主要的一场是大规模盗取 AI 模型密钥,偷来的密钥再为继续搜密钥的 Agent 支付推理费用;另一场试图用实时深伪视频和伪造证件照绕过两家加密交易所的 KYC,但供应商的服务端判定拒绝了所有记录在案的深伪尝试。亚马逊强调这些手法都不新,也无法核实 Agent 自报的结果。

亚马逊威胁情报:MadPot 伪装成 LLM 推理 API 的诱饵传感器,截获 ARTEX 攻击 Agent 自带的作战记忆——偷 AI 密钥「以战养战」、用实时深伪冲击加密交易所 KYC(深伪全部被拒)

核心要点速览

  • 观测窗口 2026 年 10 月 3 日至 11 月 5 日:MadPot 传感器在多个端口上模拟常见 LLM chat-completions 接口,ARTEX Agent 把它们当成模型后端,请求里带着系统提示词、工具历史、知识图谱状态和战果(AWS Security Blog)
  • 活动一「工业级盗 AI 凭证」:目标包括 One API、New API、Veloera、Sub2API、LiteLLM 等 LLM 网关,以及 Dify、FastGPT、Langflow、RAGFlow、Open WebUI、LobeChat、Ollama 等应用;利用未初始化安装、匿名管理接口、LiteLLM 默认 master key、CVE-2025-3248(Langflow)、CVE-2026-28797(RAGFlow)等
  • 密钥分 L1(线索)/L2(确认可调用)/L3(可量化影响)三级;公开暴露超过 30 天的密钥被当作低价值库存,偷来的密钥直接喂进框架自带的模型网关继续搜密钥
  • 活动二「深伪过 KYC」:针对两家加密交易所,最好的一次把人脸动作序列做到距目标 7 像素以内,但供应商服务端判定拒绝了所有记录在案的尝试;另一会话在单张消费级 GPU 上把实时换脸管线做到 11.5 帧/秒,至少 4 个 Agent 会话并行分工
  • 归因为中等置信度(提示词里引用 ARTEX 工具、简体中文提示词、中国时区配置等);亚马逊未实时观测这些行动、无法核实 Agent 自报结果,并已按需通知可能受影响的 AWS 客户,文末附 11 个 IOC IP
阅读全文

微软 MAI-Transcribe-2 语音识别模型在 Foundry 正式 GA:单模型覆盖 60 种语言、内置说话人分离,1 小时音频约 10 秒转完,年底前每小时 0.10 美元

Microsoft AI 官方账号 11 月 12 日宣布,自研语音转文字模型 MAI-Transcribe-2 在 Microsoft Foundry 正式商用(GA),可用于生产环境,价格为每小时音频 0.10 美元(限时到 2026 年底)。该模型 9 月 3 日以公开预览上线,单模型支持 60 种语言,自带说话人分离、词级时间戳和关键词偏置;微软称 1 小时音频约 10 秒推理完成,FLEURS 前 25 种语言平均词错误率 3.4%。

微软 MAI-Transcribe-2 语音识别模型在 Foundry 正式 GA:单模型覆盖 60 种语言、内置说话人分离,1 小时音频约 10 秒转完,年底前每小时 0.10 美元

核心要点速览

  • 从预览转正式:9 月 3 日公开预览,11 月 12 日在 Microsoft Foundry GA,可用于生产负载(Microsoft Learn 文档)
  • 价格:每小时音频 0.10 美元,官方写明是到 2026 年 12 月 31 日的限时价,之后价格以官方定价页为准
  • 一个模型 60 种语言:自动识别语种,支持印英混说(Hinglish)、西英混说(Spanglish)等语码切换,噪声环境下保持准确率
  • 功能内置:说话人分离、词级时间戳、关键词偏置(phraseList)、clean / verbatim 两种转写风格,无需另接服务
  • 速度与精度为微软自测:1 小时音频约 10 秒推理,比 GPT-Transcribe 快 10 倍、比 Scribe v2 快 7 倍、比 Gemini 3.5 Transcribe 快 5 倍;FLEURS 60 语言平均词错误率 5.2%
阅读全文
关联模型 / 智能体 / 厂商:
⚡ MAI-Transcribe-2⚡ MAI-Transcribe-1.5⚡ GPT-Transcribe⚡ Scribe v2⚡ Gemini 3.5 Transcribe🌐 Microsoft🌐 Microsoft AI

Lightning Labs 开源 pi402:编码 Agent 用比特币闪电网络按 token 自付推理费,无需账号、API Key 和信用卡

Lightning Labs 11 月 12 日发布 pi402:一个给 Pi 编码 Agent 用的扩展,内置 Wavelength 闪电钱包,Agent 调用付费推理接口时自动按 L402 或 MPP 协议付款,付款凭证本身就是 API Key,不用注册账号,也不用信用卡。卖方在现有推理 API 前面挂上 Aperture v0.6.0,再用 meterd 或 lightmeter 按 token 计价即可开卖。整套代码开源(MIT)。官方举例:每个输入 token 1 毫聪、输出 2 毫聪,按约 8.05 万美元的比特币价格,约合每百万 token 0.80/1.61 美元。

Lightning Labs 开源 pi402:编码 Agent 用比特币闪电网络按 token 自付推理费,无需账号、API Key 和信用卡

核心要点速览

  • 开箱即用:买方执行 pi install npm:@lightninglabs/pi-402,用 /fund 生成闪电发票充值,或用 /deposit 走链上充值
  • 双协议:Aperture v0.6.0(11 月 5 日发布)同时支持 L402 和 Stripe 与 Tempo 推出的 MPP(IETF 草案 draft-httpauth-payment-00)
  • 按 token 计费:官方示例每输入 token 1 毫聪、每输出 token 2 毫聪,约合每百万 token 0.80/1.61 美元(按比特币约 8.05 万美元)
  • 预算可控:扩展可设单次请求上限和每日预算,界面底栏实时显示钱包余额和每笔付款
  • 全部开源:pi-402 扩展、Aperture、lightmeter 参考实现均开源,pi-402 为 MIT 许可;演示用它付费调用 Kimi K3.1 Pro
阅读全文

Edge0 开放 145B 端侧模型 Edge0-145B 和 Edge0-120B 权重:每 token 激活约 10B,单张 24GB 消费级显卡可跑,厂商称 Terminal-Bench 2.1 得分 86.5 高于 Claude Opus 4.6

端侧模型公司 Edge0 于 11 月 12 日开放 Edge0-145B 和 Edge0-120B 的权重,并发布 C++ 推理引擎 edge0-infer 和 Edge0 Chat 0.2.0。145B 版基于 Qwen3.8-Flash-Next,是潜空间稀疏 MoE,每 token 激活约 10.12B 参数,原生 4 bit 训练,上下文 256K。官方称本地峰值内存 29GB,在 RTX 5090 D 24GB 上智能体解码 98.3 tok/s;Terminal-Bench 2.1 得分 86.52,Claude Opus 4.6(Max)为 78.2。所有成绩均为 Edge0 内部评测。

Edge0 开放 145B 端侧模型 Edge0-145B 和 Edge0-120B 权重:每 token 激活约 10B,单张 24GB 消费级显卡可跑,厂商称 Terminal-Bench 2.1 得分 86.5 高于 Claude Opus 4.6

核心要点速览

  • 规模与结构:Edge0-145B 总参 145B,每 token 激活约 10.12B;48 层,每层 512 个专家,10 个路由专家加 1 个共享专家;上下文 256K,原生 4 bit 训练
  • 跑分(厂商内部评测):Terminal-Bench 2.1 得分 86.52,Qwen3.8-Flash-Next 为 83.3,DeepSeek-V4-Flash-0731 为 82.7,Claude Opus 4.6(Max)为 78.2;DeepSWE 1.1 得分 64.6,GPQA-Diamond 得分 90.4
  • 本地速度(模型卡口径):RTX 5090 D 24GB 上 NVFP4 版智能体解码 98.3 tok/s,16K 输入预填充 3165.7 tok/s;RTX 4090 跑 Q3_K 版智能体解码 91.7 tok/s
  • 硬件门槛:Windows 包要求 NVIDIA RTX 20 系或更新、至少 16GiB 显存和 20GiB 内存;权重文件 NVFP4 版 47.79GiB,Q3_K 版 40.81GiB
  • 许可限制:模型用 Edge0 社区许可 1.0,同时受 Qwen 社区许可约束;个人、研究和内部使用可以,转售模型或做商业模型服务要另签授权;推理框架为 Apache-2.0
阅读全文
关联模型 / 智能体 / 厂商:
⚡ Edge0-145B⚡ Edge0-120B⚡ Qwen3.8-Flash-Next⚡ DeepSeek-V4-Flash-0731⚡ Claude Opus 4.6🌐 Edge0🌐 Qwen🌐 Hugging Face🌐 NVIDIA
AD赞助内容

LMSYS 在首届 SGLang 峰会成立 SGLang 联盟:NVIDIA、AMD、Intel、Google、Meta、Cloudflare、Modal、RadixArk 成为创始成员,共同参与开源推理引擎路线图

11 月 12 日,开源推理引擎 SGLang 背后的非营利组织 LMSYS Org 在旧金山首届 SGLang 峰会开幕主题演讲上宣布成立 SGLang 联盟。创始成员包括NVIDIA、AMD、Intel、Google、Meta、Cloudflare、Modal 和 RadixArk,它们将与 SGLang 维护者一起参与路线图制定,重点方向是前沿模型支持、推理与多模态负载、分布式推理和跨硬件优化。每家成员指派一名技术代表,每年参加两次路线图会议;技术决策和代码合入权仍归 SGLang 维护者,项目继续对整个社区开放。

LMSYS 在首届 SGLang 峰会成立 SGLang 联盟:NVIDIA、AMD、Intel、Google、Meta、Cloudflare、Modal、RadixArk 成为创始成员,共同参与开源推理引擎路线图

核心要点速览

  • 创始成员 8 家:NVIDIA、AMD、Intel、Google、Meta、Cloudflare、Modal、RadixArk(SGLang 核心作者创办的公司),覆盖 GPU/CPU 芯片、云和推理服务商
  • 治理方式:每家指派一名技术代表,每年两次路线图会议,期间可组建工作组并公开进展;技术决策与代码合入仍由 SGLang 维护者负责
  • 四个重点方向:前沿模型支持、推理与多模态负载、分布式推理、跨硬件平台优化
  • 规模(官方口径):SGLang 跑在数十万张 GPU 上,用户包括 Meta、微软、Google、亚马逊、Thinking Machines Lab、Cloudflare、Reflection、Modal
  • 背景:LMSYS 引用德勤数据称,2026 年推理约占全部 AI 算力的三分之二,2025 年约为一半;首届峰会 11 月 12–13 日在旧金山 Fort Mason 举行,100 多位演讲者
阅读全文

Google 发布 A2UI 1.0:生成式 UI 开放协议首个稳定版,Agent 直接回复表单和图表;新默认格式 Express 把 UI 输出 token 砍掉约 63%

Google 11 月 11 日发布 A2UI 1.0,这是其生成式 UI 开放协议(Apache 2.0)的首个稳定版。Agent 不再只回一大段文字,而是描述要显示的卡片、选择器或图表,由各个 App 用自己的原生组件渲染。1.0 新增双向函数调用和无障碍支持,提供 React、Angular、Lit、Flutter、SwiftUI 渲染器,以及 Python、TypeScript、Dart 三套 Agent SDK。Google Cloud Tech 官方文章称,新的默认推理格式 A2UI Express 在 54 个样本的测试中让生成的 UI 代码 token 减少 63.2%。Atlassian、Alation、Bloomberg、字节跳动已在使用。

Google 发布 A2UI 1.0:生成式 UI 开放协议首个稳定版,Agent 直接回复表单和图表;新默认格式 Express 把 UI 输出 token 砍掉约 63%

核心要点速览

  • A2UI 1.0 是首个稳定版,Apache 2.0 开源;Jetpack Compose 渲染器目前仍是 0.9.1,1.0 版「即将推出」
  • 1.0 新增双向函数调用(例如订座选择器可当场查空位)、无障碍支持和元数据扩展
  • 新默认格式 A2UI Express:在 54 个样本、gemini-3.8-flash 的测试中,提示 token 中位数降 45.4%(10,980→6,000),生成的 UI 代码 token 降 63.2%(官方口径)
  • 安全设计:UI 消息是纯声明式数据,不含脚本和 CSS;Agent 只能用 catalog.json 白名单里的组件和函数
  • Web 和 Flutter 渲染器可在 MCP Apps 里运行,A2UI 界面能出现在 Claude、Gemini 等支持 MCP Apps 的助手中
阅读全文

Runway 开源世界动作模型 Praxis-1:27B MoE 视频模型直接控制机器人,RoboLab-120 成功率 46.2% 居开源第一,Apache 2.0 可商用

Runway 11 月 11 日以 Apache 2.0 许可开放世界动作模型 Praxis-1 的权重、推理与微调代码(含 LoRA),可商用。它是 27B 参数的 MoE 扩散 Transformer(每 token 激活约 2.8B),同时预测未来视频和机器人动作,每次调用输出 1.6 秒动作,单张 H100 往返约 0.55 秒。官方称在 NVIDIA RoboLab-120 上成功率 46.2%,是世界动作模型和开源机器人基础模型中的第一,高于 FLUX 3 Action 42.9%、π0.5 28.0%。同一工位三项任务上,比让 GPT-6 Astra 直接驱动机械臂快 15.6 倍、单任务成本低 51 倍。权重已上 Hugging Face,并支持 LeRobot 与 vLLM-Omni。

Runway 开源世界动作模型 Praxis-1:27B MoE 视频模型直接控制机器人,RoboLab-120 成功率 46.2% 居开源第一,Apache 2.0 可商用

核心要点速览

  • 规模:总参数 27.2B,主干 26.9B、每 token 激活约 2.8B,另有 314M 动作专家;bf16 约 54.4GB,单张 80GB GPU 可跑
  • RoboLab-120(1,200 回合):46.2%,FLUX 3 Action 42.9%、Cosmos3 Nano 36.8%、π0.5 28.0%(官方口径)
  • 真机 Franka FR3 十项任务:88/100 对 FLUX 3 Action 80/100;RT-1 微调后 SimplerEnv 80.0%(原 RT-1 52.4%)
  • 对比 GPT-6 Astra 驱动同一机械臂:快 15.6 倍,单任务成本 0.04 美元对 1.87 美元(低 51 倍)
  • NVFP4 量化后权重缩到 17.5GB,RoboLab 抽样 46.5% 对 bf16 47.8%
阅读全文
关联模型 / 智能体 / 厂商:
⚡ Praxis-1⚡ FLUX 3 Action⚡ pi0.5⚡ GR00T N1.6⚡ GPT-6 Astra🌐 Runway🌐 NVIDIA

苹果旗下 Claris 预告 Harbor:把 Apple 芯片 Mac 变成本地私有 AI 推理服务器,可用 Thunderbolt 5 多机合并统一内存跑开放权重模型,目前仅开放早期访问登记

苹果子公司 Claris(FileMaker 的开发方)上线了 Claris Harbor 的官方早期访问页面,页面标注「Private Preview」。官方口径:Harbor 把你自己的 Apple 芯片 Mac 变成私有 AI 服务器,运行开放权重模型,没有云端费用、不按 token 计费,数据和提示词不离开本机;单台 Mac 几分钟即可建好推理端点,跑更大的模型时可用 Thunderbolt 5 连接多台 Mac 合并统一内存。此前 MacRumors 分析师 Aaron Perris 在 X 上曝光了短暂上架的 App Store 页面(约 50 万次浏览),随后该页面被下架。目前官方没有发布日期、价格和支持机型清单,页面只提供登记表。

苹果旗下 Claris 预告 Harbor:把 Apple 芯片 Mac 变成本地私有 AI 推理服务器,可用 Thunderbolt 5 多机合并统一内存跑开放权重模型,目前仅开放早期访问登记

核心要点速览

  • 官方页面 content.claris.com 标注 Private Preview,只提供「Stay informed」登记表,暂无下载、价格和发布日期
  • 官方口径:运行开放权重模型,零云端费用、不按 token 计费,数据与提示词留在本机
  • 单台 Apple 芯片 Mac 即可建推理端点;2 台及以上 Thunderbolt 5 Mac 可合并统一内存跑更大模型
  • 曝光帖约 50 万次浏览、4700+ 赞;App Store 页面随后被下架(MacRumors 报道)
阅读全文
关联模型 / 智能体 / 厂商:

OpenAI 公布 Control Room:统一追踪所有研究推理任务,发现安全风险后 35 秒内停止模型输出,服务宕机即“失效关闭”

OpenAI 官方账号与博客介绍了 Control Room:一个覆盖整个研究基础设施的中央系统,接入所有研究推理负载(包括用于训练和评测的智能体采样、数据处理等),与其错位(misalignment)监控系统联动,在决定干预后 35 秒内停止对应任务的模型输出。终止机制放在推理引擎层而非研究代码层:引擎每次处理请求前都要向 Control Room 校验 job_id;Control Room 自身宕机或被篡改时,所有推理请求都会被拒绝(fail-closed)。该机制已覆盖全部前沿模型研究负载,其余研究负载将在未来几天内完成上线。这是安全基础设施公告,不涉及新模型或对外 API。

OpenAI 公布 Control Room:统一追踪所有研究推理任务,发现安全风险后 35 秒内停止模型输出,服务宕机即“失效关闭”

核心要点速览

  • 定位:覆盖 OpenAI 全部研究推理负载的中央追踪与停止系统,包括 RL 训练、评测、高并发采样和数据处理
  • 速度:从下达停止指令到任务无法继续产出,最长 35 秒;延迟来自推理授权缓存层,官方称正努力降到 0
  • 机制:任务启动时申请 job_id 并绑定一份已批准的安全论证(safety case),推理引擎在每次请求前向 Control Room 校验
  • 失效关闭:Control Room 宕机、被禁用或遭篡改时,所有推理请求一律拒绝;已覆盖全部前沿模型研究负载,其余负载未来几天内上线
  • 联动监控:所有前沿 RL 任务都配有监控模型,发现问题可自动下令停止;官方称近期一起 DNS 相关事件即由监控发现
阅读全文
关联模型 / 智能体 / 厂商:

谷歌发布第八代 TPU 新成员 TPU 8i Max 与 TPU 8tx:8i Max 双芯封装,算力、SRAM 和 HBM 带宽翻倍;8tx 主打机密推理,同步开源 TPU Sync

11 月 9 日,Google Cloud 官方账号和 Google AI 与基础设施 SVP Amin Vahdat 宣布第八代 TPU 新增两套系统。TPU 8i Max 把两颗 TPU 8i 芯片封装在一起,官方称算力、SRAM 和 HBM 带宽都是 TPU 8i 的 2 倍,面向超长上下文和最高机架算力密度。TPU 8tx 与 TPU 8t 同一颗芯片,搭配第 5 代 AMD EPYC 主机,在硬件层保护运行中的数据和模型权重,官方称延迟比 TPU 8t 低最多 2 倍、性能损失接近零。加上 4 月发布的 8t、8i,这是谷歌第一次在一年内推出 4 套 TPU 系统。软件方面,谷歌开源 TPU Sync(官方称 KV 传输延迟和首 token 时间降低 90% 以上),推出 Agent Compute Engine 和预览版 TPU Agent 套件(可接入 Claude Code、Cursor、Antigravity),Cloud Pathways 和 GKE 动态切片正式 GA。官方未公布上市时间和价格。

谷歌发布第八代 TPU 新成员 TPU 8i Max 与 TPU 8tx:8i Max 双芯封装,算力、SRAM 和 HBM 带宽翻倍;8tx 主打机密推理,同步开源 TPU Sync

核心要点速览

  • 产品线:第八代 TPU 现有 4 套系统:8t(训练)、8i(低延迟推理)、8tx(机密计算)、8i Max(超长上下文),谷歌称是首次一年内推出 4 套 TPU 系统
  • TPU 8i Max:两颗 8i 芯片合封,官方口径算力、SRAM、HBM 带宽均为 8i 的 2 倍,同样机架占地放下 2 倍硅片
  • TPU 8tx:与 8t 同芯片,配 第 5 代 AMD EPYC 主机,数据和权重在使用中也受硬件保护;官方称延迟比 8t 最多低 2 倍,性能损失接近零
  • 软件:开源 TPU Sync(官方称 KV 传输延迟与 TTFT 降 90% 以上);GKE 动态切片 GA,作业启动最多快 5 倍、故障恢复最多快 4.5 倍
  • 开发者:预览版开源 TPU Agent 套件可接入 Claude Code、Cursor、Antigravity;TPU 客户已近 100 家;上市时间与价格官方未公布
阅读全文
AD赞助内容

NVIDIA 为韩国四大开源模型发布 Dynamo 部署配方:A.X K2、K-EXAONE 2.0、Solar Open 2、Motif-3 一键上 B200,官方称推理性能最高 2 倍

NVIDIA 在首尔 AI Day 上为韩国四个主力开源大模型发布 Dynamo 优化部署配方:SK Telecom 的 A.X K2、LG AI Research 的 K-EXAONE 2.0(750B-A37B)、Upstage 的 Solar Open 2(250B)和 Motif Technologies 的 Motif-3。配方针对 B200,统一使用 NVFP4 权重 + FP8 KV 缓存与 vLLM 后端,提供聚合与预填/解码分离(disaggregated)两套 Kubernetes 清单和基准脚本,官方称开箱最高 2 倍推理性能(未说明对比基线)。按 Dynamo 文档实测:Motif-3 两张 B200 单 GPU 输出约 294 tok/s,K-EXAONE 2.0 四卡首 token 仅 291 毫秒。这也是 NVIDIA 与韩国科技部「AI for All」合作的一部分。

NVIDIA 为韩国四大开源模型发布 Dynamo 部署配方:A.X K2、K-EXAONE 2.0、Solar Open 2、Motif-3 一键上 B200,官方称推理性能最高 2 倍

核心要点速览

  • 覆盖 4 个韩国开源模型:SK Telecom A.X K2、LG K-EXAONE 2.0(750B-A37B)、Upstage Solar Open 2(250B)、Motif-3;配方已在 GitHub ai-dynamo/dynamo 的 recipes/ 目录
  • 官方口径:B200 上开箱最高 2 倍推理性能,但 NVIDIA 未说明与哪种基线比较
  • Dynamo 文档实测(聊天 trace,SLA 为每用户 ≥50 tok/s 且 TTFT p50 <5 秒):Motif-3 2×B200 单 GPU 293.96 tok/s、TTFT 388 ms;Solar Open 2 两副本 216.88 tok/s/GPU、TTFT 308 ms
  • K-EXAONE 2.0 4×B200 聚合:87 tok/s/GPU、每用户 51.4 tok/s、TTFT 291 ms;A.X K2 8×B200 + EAGLE3:76.49 tok/s/GPU、TTFT 0.525 秒,另有 32×H200 方案
  • 注意:Motif-3、A.X K2 跑分用的是合成的投机解码接受长度(约 2.1),不代表真实接受率与输出质量;Solar Open 2 默认高推理强度,GPQA 中位输出约 6,400 tokens,max_tokens 要给足
阅读全文
关联模型 / 智能体 / 厂商:

阿里淘宝 MNN 团队开源 3 亿参数端侧模型 MNN-Pocket-0.3B:INT4 版仅 173MB,iPad Pro M5 解码最高 466 token/s,Apache 2.0

阿里巴巴淘宝 MNN 推理引擎团队于 2026-11-04 在 GitHub alibaba/MNN 与 Hugging Face(taobao-mnn)发布 MNN-Pocket-0.3B,这是一个与 MNN 推理栈协同设计、面向手机 App 的约 3 亿参数中英双语指令模型,Apache 2.0 许可。官方模型卡称:INT4(W4A16)QAT 构建仅 173MB,支持 32K 上下文,在 iPad Pro M5(Metal)上解码最高 466 token/s,iPhone 18 Pro 实测约 350 token/s;在 11 项中英评测上平均 50.00,高于 Qwen3-0.6B(44.28)等更大的约 5 亿参数基线(均为官方口径)。同系列还放出 Base、SFT、GGUF、MNN 端侧包和一次前向即作答的 Dec 决策模型。11-08 起已有第三方 iOS 应用 Local LLM 接入、社区转出 LiteRT 版本。官方明确不建议用于高阶数学和长代码生成。

阿里淘宝 MNN 团队开源 3 亿参数端侧模型 MNN-Pocket-0.3B:INT4 版仅 173MB,iPad Pro M5 解码最高 466 token/s,Apache 2.0

核心要点速览

  • 规格(官方模型卡):约 3 亿参数、28 层、隐藏维度 896、GQA 14 头/2 KV 头、词表 65,536,部署支持 32K 上下文,中英双语
  • 体积与速度(官方口径):INT4(W4A16)QAT 构建 173MB;512 token 上下文下 iPad Pro M5 Metal 预填充 8,721 token/s、解码 466 token/s,骁龙 8 Gen 5 CPU 解码 251 token/s;GitHub README 称 iPhone 18 Pro 解码约 350 token/s
  • 跑分(官方口径):11 项中英评测平均 50.00,INT4 版 49.59,仅掉 0.41 分;IFEval 73.20、GSM8K 54.36、HumanEval 53.66,平均分高于 Qwen3-0.6B(44.28)和 MiniCPM4-0.5B(46.81)
  • 全家桶:Base、SFT、指令版、GGUF(llama.cpp)、MNN 端侧包,以及一次前向作答的 Dec 决策模型;Apache 2.0 可商用
  • 定位:官方建议用于端侧助手、信息抽取和轻量 Agent 流水线,不建议做高阶数学或长代码生成
阅读全文
关联模型 / 智能体 / 厂商:
⚡ MNN-Pocket-0.3B⚡ Qwen3-0.6B⚡ MiniCPM4-0.5B🌐 Alibaba🌐 Taobao mnn

Kimi K3.1 Pro 高速版上架 Amazon Bedrock:Global 定价 $4/$20 与月之暗面官方持平,Flex 档再打 5 折

AWS 于 2026-11-06 宣布 Moonshot AI 的 Kimi K3.1 Pro(Highspeed 高速版)上架 Amazon Bedrock,通过跨区域推理覆盖所有 Bedrock 区域,主打编码与文档处理类 Agent。官方模型卡显示 Global CRIS 每百万 Token 输入 $4、输出 $20、缓存读 $0.20,与 Kimi 官方高速版同价;US/印度区 +10%,Priority 档 1.75 倍、Flex 档 0.5 倍。

核心要点速览

  • 定价(AWS 官方模型卡):Global CRIS 输入 $4 / 输出 $20 / 缓存读 $0.20 / 缓存写 $5(每百万 Token)
  • US 与印度地理路由为 $4.40 / $22,比 Global 贵 10%
  • Priority 档按 1.75 倍计费,Flex 档 0.5 倍,即 Flex 约 $2 / $10,与 Kimi 官方标准版同价
  • 模型 ID moonshotai.kimi-k3.1,1M 上下文,支持显式 Prompt 缓存、工具调用、结构化输出与 Guardrails
  • 这是 Kimi K3 九月上架 Bedrock 之后,月之暗面旗舰第二次进入 AWS 托管目录
阅读全文
关联模型 / 智能体 / 厂商:

169Pi 开源 Alpie Seed 9B:基于 Qwen3.5-9B 的多模态端侧模型,厂商口径 SWE-Bench Verified 61.2%、LiveCodeBench v6 72.99%

印度初创 169Pi 于 2026-11-06 发布 Alpie Seed 9B(Apache 2.0):在 Qwen3.5-9B 上做 SFT(DoRA)+ 多目标 GRPO 后训练,保留文本/图像/视频输入与 262K 原生上下文,并提供 FP16 与 Q4/Q3/Q2 GGUF。厂商口径(FP16、thinking 开):MMLU-Pro 82.54%、GPQA Diamond 84.32%、LiveCodeBench v6 72.99%、SWE-Bench Verified 61.20%(Mini-SWE-agent、无重试)、OCRBench 90.30%;并报告在 iPhone 17 Pro、Galaxy Z Flip8、Mac M2 与 Windows CPU 上可离线推理。

169Pi 开源 Alpie Seed 9B:基于 Qwen3.5-9B 的多模态端侧模型,厂商口径 SWE-Bench Verified 61.2%、LiveCodeBench v6 72.99%

核心要点速览

  • 定位:9B 稠密视觉语言模型,基于 Qwen3.5-9B 后训练(非从零预训练),Apache 2.0
  • 训练:SFT DoRA(rank 64)后接 GRPO(8×H100、约 3472 GPU-hours、3034 steps),发布 checkpoint 为 FP16 合并的 Phase 4
  • 编码(厂商口径):LiveCodeBench v6 72.99%(Qwen3.5-9B 65.6%);SWE-Bench Verified 61.20%(Mini-SWE-agent、无重试)
  • 端侧:Q4/Q3/Q2 GGUF;官方报告 iPhone 17 Pro 约 9.59 tok/s、Mac M2 约 14.1 tok/s、Windows CPU 约 1.95 tok/s 生成速度
  • 限制:数据集组成未公开;主榜分为 FP16,不代表量化版;对比分数来自各家 model card,非同 harness 复测
阅读全文
关联模型 / 智能体 / 厂商:

Hugging Face 的 Joël Niklaus 发布 Harness Leaderboard:28,849 次试验比较 9 款编码 Agent Harness,厂商口径 mini-swe-agent 均值约 51.4%

2026-11-05,Hugging Face Harness Optimization 研究员 Joël Niklaus(@joelniklaus)发布 Harness Leaderboard:在固定模型/供应商/推理力度下只换 harness,跑 GLM-5.3-Flash、DeepSeek-V4.1-Flash 与 Flint,基准 Terminal-Bench 2.1 与 DeepSWE,共 28,849 次试验、推理花费约 $4,746。作者口径:三模型平均 mini-swe-agent 解决率约 51.4%,Pi 约 49.4% 且每解一题约 $0.29。本条为个人研究排行榜,非 Hugging Face 公司官方产品公告。

Hugging Face 的 Joël Niklaus 发布 Harness Leaderboard:28,849 次试验比较 9 款编码 Agent Harness,厂商口径 mini-swe-agent 均值约 51.4%

核心要点速览

  • 来源:HF 的 Joël Niklaus(Harness Optimization)个人帖 2026-11-05T16:04:08Z,非公司官宣
  • 规模(作者口径):9 款 harness × 开源模型,28,849 次试验,推理花费约 $4,746
  • 方法:固定模型/供应商/推理力度,每任务 3 次尝试;基准 Terminal-Bench 2.1 与 DeepSWE
  • 结果(作者口径):三模型平均 mini-swe-agent ~51.4%,openclaw ~27.3%;Pi ~49.4% / 约 $0.29 每解一题
  • 落地:排行榜与轨迹公开在 HF Space;对照 Harness Lens 看各 harness 提示词与工具差异
阅读全文