AI 编程实时动态与要闻

FBI 发布 FLASH 预警:开源 LLM 智能体渗透框架 ARTEX 自 8 月起被黑客大规模滥用,部分入侵 3 小时内拿到特权,公网暴露控制台超 1600 个,攻击方最常用 DeepSeek Flash 系列模型

FBI 网络部门 11 月 13 日发布 FLASH-20261113-001,点名开源的 LLM 驱动多智能体渗透测试平台 ARTEX:自 2026 年 8 月起被多类黑客用于自动化完成侦察到数据外传的多个阶段,目标涵盖金融、政府、科技、国防、半导体、能源、医疗等行业,部分入侵从锁定目标到拿到特权不到 3 小时。原作者 10 月已下架 GitHub 仓库,但分叉、镜像和商业版 ARTEX PRO 仍在流传,11 月初已发现超 1600 个公网暴露的 ARTEX 控制台。

FBI 发布 FLASH 预警:开源 LLM 智能体渗透框架 ARTEX 自 8 月起被黑客大规模滥用,部分入侵 3 小时内拿到特权,公网暴露控制台超 1600 个,攻击方最常用 DeepSeek Flash 系列模型

核心要点速览

  • ARTEX 用 Go 编写,把自然语言下达的战术目标拆成命令交给专门智能体执行,除设定目标外几乎无需人工介入;它本身不带模型,而是接入外部 LLM,包括 Claude、GPT 以及 DeepSeek、GLM、Grok、Kimi 等
  • FBI 称在攻击方控制的 ARTEX 实例中中国模型最常见,DeepSeek Flash 系列用得最多,原因是能力与成本平衡,且在以「渗透测试」包装时看不到明显护栏
  • 已知案例:针对韩国金融机构的攻击导致约 6.7 万人个人信息外泄;一次 ConnectWise Cloud Backup 供应链入侵波及 2250 多个下游租户
  • 原作者「Autumn-27」7 月在 GitHub 发布,10 周内约 1500–2000 星,10 月 8 日下架仓库;FBI 称分叉、本地化改版、存档副本和商业版 ARTEX PRO 仍在扩散
  • FBI 建议:盘点所有公网应用(含合作伙伴门户、移动后端、遗留服务),把云管理、Kudu/SCM 发布接口、备份平台等收进可信网络,扫描代码库和 CI/CD 中的明文密钥并及时轮换
阅读全文

DeepSeek 把 App 全套能力开放到 API:deepseek-flash 内置联网搜索、深度思考搜索、文件解析、读链接和安全审核,另推 OCR/ASR/TTS 独立接口与 MIT 开源聊天前端

11 月 13 日,DeepSeek 官方宣布把 DeepSeek App 背后的能力全部开放到 API:V4.1-Flash(模型名 deepseek-flash)在 Messages、Responses、Chat Completions 三种协议下都支持服务端执行的联网搜索(含图片搜索和引用)、深度思考搜索、PDF/Office/图片文件解析、自动读取消息中的链接,以及输入输出安全审核。OCR、语音识别(ASR)、语音合成(TTS)也作为独立接口上线。工具调用在 Token 费之外另计:搜索和抓取 0.75 美元/千次,OCR 0.225 美元/千页,ASR 限时 0.058 美元/小时,TTS 限时 0.225 美元/万字符。官方同时开源了可导入 DeepSeek 聊天记录的前端 Demo(MIT)。面向公众的应用必须开启安全审核。

DeepSeek 把 App 全套能力开放到 API:deepseek-flash 内置联网搜索、深度思考搜索、文件解析、读链接和安全审核,另推 OCR/ASR/TTS 独立接口与 MIT 开源聊天前端

核心要点速览

  • 三种协议都支持:Messages(/anthropic/v1/messages)、Responses(/responses)、Chat Completions(/chat/completions),模型统一用 deepseek-flash
  • 开启方式:工具 deepseek_web_search 和 deepseek_read_url,参数 safety_check 和 title;工具调用和上下文拼装都在服务端完成
  • 工具价格(官方口径,另加 Token 费):搜索/抓取 0.75 美元/千次,OCR 0.225 美元/千页,ASR 0.058 美元/小时、TTS 0.225 美元/万字符(均为限时 5 折)
  • 开源 Demo deepseek-ai/chat-demo:TypeScript、MIT 许可,支持导入 DeepSeek 聊天记录,API 密钥只存在浏览器本地
  • 首帖 2 小时内约 11.7 万浏览、2,100+ 点赞;官方未公布搜索质量或 OCR/ASR 准确率跑分
阅读全文
关联模型 / 智能体 / 厂商:

Artificial Analysis 网络安全指数:腾讯 Hy4 得 58 分排第 3,在 CWE-Bench-AA 漏洞修复测试中以 76% 登顶,每题成本 0.92 美元

独立评测机构 Artificial Analysis 11 月 13 日公布腾讯混元 Hy4 在其网络安全指数(Cyber Index)上的结果:综合 58 分,排第 3,比 DeepSeek V4.1 Flash 1017(max)高 1 分,落后于 Kimi K3.1 Pro(64)和仅限受信任访问的 GPT-6 Sol(Daybreak Blue,max,69)。在三项子测之一的 CWE-Bench-AA 上,Hy4 以 76% 的单次通过率排第 1,领先第 2 名 DeepSeek 6 到 7 个百分点。每道题平均成本 0.92 美元,平均输出 6.4 万 token,处在能力与成本的帕累托前沿上。

Artificial Analysis 网络安全指数:腾讯 Hy4 得 58 分排第 3,在 CWE-Bench-AA 漏洞修复测试中以 76% 登顶,每题成本 0.92 美元

核心要点速览

  • 综合排名:Cyber Index 58 分排第 3,前两名为 GPT-6 Sol(Daybreak Blue,max,仅受信任访问)69 分、Kimi K3.1 Pro 64 分;DeepSeek V4.1 Flash 1017(max)57 分紧随其后
  • 单项第一:CWE-Bench-AA 单次通过率 76%,DeepSeek V4.1 Flash 1017(max)69%、Grok 4.7(xhigh)68%
  • 性价比:每题 0.92 美元,比 Grok 4.7(xhigh)高 2 分而成本约为其 1/11;比 DeepSeek 高 1 分,成本约为其 2 倍
  • 输出更省:每题约 6.4 万输出 token,比 DeepSeek 少 43%、比 Grok 4.7 少 37%,但比 Kimi K3.1 Pro 多 49%
  • 评测口径:AA 按 0.834/2.501 美元每百万输入/输出 token 计价;OpenRouter 目前把 tencent/hy4 标为 0.417/1.25 美元,实际成本可能更低
阅读全文

vLLM 在英伟达 Vera Rubin NVL72 上跑 DeepSeek-V4.1-Flash:每用户 387 token/s 时单卡 170 万 token/s,为 GB300 NVL72 的 58 倍;峰值吞吐则是 2.7 倍

11 月 12 日,vLLM 发布 DeepSeek-V4.1-Flash 系列第三篇博客(Inferact 主导):在一台 Vera Rubin NVL72 上,用 SemiAnalysis AgentX 负载测得每用户 P90 387 token/s 时单 GPU 总吞吐 170 万 token/s,是 GB300 NVL72 同一交互速度下的 58 倍;峰值吞吐 252 万 token/s/GPU,是 GB300 的 2.7 倍。58 倍只对应高交互速度这一点,Rubin 数据为预览结果。

vLLM 在英伟达 Vera Rubin NVL72 上跑 DeepSeek-V4.1-Flash:每用户 387 token/s 时单卡 170 万 token/s,为 GB300 NVL72 的 58 倍;峰值吞吐则是 2.7 倍

核心要点速览

  • 两个倍数要分开看(vLLM 口径):每用户 387 token/s 时 170 万 token/s/GPU,是 GB300 的 58 倍;峰值吞吐 252 万 token/s/GPU,是 GB300 的 2.7 倍
  • 单用户延迟:TP8 跨两个计算托盘的专用解码路径,并发 1 时 P90 达 1,810 token/s,P50 从 1,117 提升到 1,844 token/s
  • 内核重写:针对 Rubin 的双内存域和 SM107 新 MMA 指令,DEP2 prefill 步约快 28%,DEP decode 步约快 25%
  • 机架级内存池:Mooncake KV 池从 DRAM 扩到空闲 HBM,Engram 表分片到各 GPU HBM;并发 4,800 时请求量多 68%,TTFT P50 从 29.8 秒降到 4.2 秒
  • 数据性质:Rubin 结果为预览数据,GB300 对比来自 InferenceX PR,部分点为插值
阅读全文
AD赞助内容

X 热议:前 OpenAI 研究员 Will DePue 发布「检查点取证」报告,称在 DeepSeek、Kimi、MiniMax、蚂蚁 Ling 的 6 款开源模型权重里找到英伟达 Blackwell 初始化指纹;报告自称不能证明违反出口管制

11 月 12 日,前 OpenAI 研究员 Will DePue 在 X 发帖并发布报告,称通过分析公开权重里残留的随机初始化模式,发现 DeepSeek-V4-Flash/Pro、Kimi K3/K3.1-Pro、MiniMax-M3、Ling-3.1-flash 六款模型是在英伟达 Blackwell 上初始化的,而这些公司更早的模型对应 Hopper。帖子约 205 万浏览、2 万赞。这是个人研究结论,不是官方认定;报告本身也写明,它不能确定芯片在哪里、如何获得,也不能确定是否违反出口管制。

X 热议:前 OpenAI 研究员 Will DePue 发布「检查点取证」报告,称在 DeepSeek、Kimi、MiniMax、蚂蚁 Ling 的 6 款开源模型权重里找到英伟达 Blackwell 初始化指纹;报告自称不能证明违反出口管制

核心要点速览

  • 6 款模型被判为 Blackwell 初始化(作者口径):DeepSeek-V4-Flash、MiniMax-M3 对应 B200/B300(148 个 SM);DeepSeek-V4-Pro、Kimi K3、Kimi K3.1-Pro、Ling-3.1-flash 对应 GB200/GB300(152 个 SM)
  • 方法:PyTorch 用 Philox 随机数按线程数填充初始权重,线程数由 GPU 的 SM 数决定;作者搜索约 6 万亿种「种子 + 布局」组合去匹配公开权重
  • 统计强度(作者口径):随机巧合最多约 8 sigma,六款模型的最强证据在 49–1,385 sigma 之间;在 24 个开发者公开过训练硬件的模型上,方法结论全部一致
  • 并非所有中国实验室:报告称 Qwen、GLM、腾讯、小米、阶跃的最新模型仍读作 Hopper,美团 LongCat-2.0 未发现英伟达指纹
  • 规模估算不确定:作者估计五次训练合计约 1.2 万张 Blackwell(区间 7,000–20,000),并明确说对估算「没有信心」;文中「OpenAI、Anthropic 资深研究员已独立验证」为其本人说法
阅读全文

豆包工作开放第三方模型:新增 Kimi K3.1 Pro、GLM 5.3、DeepSeek V4.1 Flash 等,模型页标注额度倍率,豆包 2.1 Lite 与 DeepSeek V4.1 Flash 限时 0.01 倍

字节跳动旗下 AI Agent 办公产品「豆包工作」11 月 12 日宣布更新:在自研的豆包 2.1 Lite、豆包 2.1 Pro 之外,新增 Kimi K3.1 Pro、GLM 5.3、DeepSeek V4.1 Flash 等第三方模型,用户可按任务自行切换。模型选择页直接标注额度消耗倍率,倍率越低越省:豆包 2.1 Pro 0.65 倍、GLM 5.3 0.80 倍、Kimi K3.1 Pro 0.95 倍,豆包 2.1 Lite 与 DeepSeek V4.1 Flash 限时降到 0.01 倍;简单小额任务仍免费,另有分时段额度优惠。此前 10 月 29 日该能力仅对团队和企业订阅开放。

豆包工作开放第三方模型:新增 Kimi K3.1 Pro、GLM 5.3、DeepSeek V4.1 Flash 等,模型页标注额度倍率,豆包 2.1 Lite 与 DeepSeek V4.1 Flash 限时 0.01 倍

核心要点速览

  • 首批第三方模型:Kimi K3.1 Pro、GLM 5.3、DeepSeek V4.1 Flash;选择器里还可见 Kimi K3、GLM 5.3 Flash、DeepSeek V4 Pro
  • 额度倍率(界面截图口径):豆包 2.1 Pro 0.65x、GLM 5.3 0.80x、Kimi K3.1 Pro 0.95x、Kimi K3.1 Pro 高速 1.44x、Kimi K3 1.48x
  • 低倍率档:GLM 5.3 Flash 0.08x、DeepSeek V4 Pro 0.46x,豆包 2.1 Lite 与 DeepSeek V4.1 Flash 限时 0.01x
  • 「自动」模式下简单小额任务免费;工作日与节假日指定时段使用活动模型另有额度折扣
  • 10 月 29 日先向团队/企业订阅开放,11 月 12 日扩展到更广泛用户;新用户登录电脑版可领 30 天会员
阅读全文

Hugging Face Harness Leaderboard 加入 DeepSeek Harness:DSH 在全部 5 组评测中与第一名统计持平,DeepSWE 排第 2,Terminal-Bench 因收尾时关掉后台服务仅排第 6

Hugging Face 研究员 Joël Niklaus 11 月 11 日宣布,DeepSeek 开源编码 Agent DeepSeek Harness(DSH,开发者预览版 0.2.2-rc.1)已加入他维护的 Harness Leaderboard。该榜单固定模型和推理力度、只换 harness,比较 10 款编码 Agent。作者口径:DSH 在 DeepSeek-V4.1-Flash、GLM-5.3-Flash(低/高推理力度)和 Flint 共 5 组评测中都与第一名统计持平;DeepSWE 三模型平均排第 2,仅比 Nous Research 的 Hermes Agent 低 0.5 分;Terminal-Bench 排第 6。主要原因是 DSH 结束任务时会关掉自己启动的后台程序,3 道要求留着服务器给评分器检查的任务 36 次只过 2 次,每组评测因此丢 1.5–1.7 分。平均每解出一题花费 0.53 美元。这是个人维护的研究榜单,并非 DeepSeek 或 Hugging Face 官方公告。

Hugging Face Harness Leaderboard 加入 DeepSeek Harness:DSH 在全部 5 组评测中与第一名统计持平,DeepSWE 排第 2,Terminal-Bench 因收尾时关掉后台服务仅排第 6

核心要点速览

  • 榜单固定模型只换 harness,比较 10 款编码 Agent;DSH 在 5/5 组评测中与第一名统计持平(作者口径)
  • DeepSWE 三模型平均排 第 2,比 Hermes Agent 低 0.5 分;Terminal-Bench 排 第 6
  • 3 道需保留服务器的 Terminal-Bench 任务:DSH 2/36 通过,OpenCode、Pi、Hermes Agent 均为 36/36
  • 这 3 题让 DSH 每组评测丢 1.5–1.7 分;在 DeepSeek-V4.1-Flash 高推理力度下超过它与第一名的 1.3 分差距
  • 平均每解出一题 0.53 美元;测试版本 0.2.2-rc.1,因需 DeepSeek 账号密钥关闭了网页搜索
阅读全文

LG AI Research 免费开放 K-EXAONE 2.5 API:750B 总参数、31B 激活、512K 上下文,官方口径 SWE-Bench Pro 59.2 略高于 DeepSeek-V4.1-Flash

11 月 9 日,LG AI Research 在首尔 NVIDIA AI Day 上宣布,通过 EXAONE API 平台(docs.exaone.ai)免费开放 K-EXAONE 2.5 API,开发者、初创公司、企业和研究机构领取 API Key 即可用于服务开发与研究。K-EXAONE 2.5 是在 8 月发布的 K-EXAONE 2.0 基础上加训的技术验证模型:750B 总参数、31B 激活,纯文本,支持韩语和英语,上下文 512K,接口兼容 OpenAI。LG 自测四项 Agent 基准:SWE-Bench Pro 59.2、BrowseComp 78.0、AutomationBench 74.6、Claw-Eval 77.3,整体与 DeepSeek-V4.1-Flash、GLM-5.3 相当,但没有一项全面领先。NVIDIA 表示该模型训练用到了 Nemotron 数据集。官方未公布免费期限和额度,也未开放 2.5 权重。

LG AI Research 免费开放 K-EXAONE 2.5 API:750B 总参数、31B 激活、512K 上下文,官方口径 SWE-Bench Pro 59.2 略高于 DeepSeek-V4.1-Flash

核心要点速览

  • 免费开放:EXAONE API 平台 11 月 9 日上线,目前免费,领 API Key 即可调用;同批上线的还有 21M 参数的表格预测模型 EXAONE Tabular
  • 规格:750B 总参数 / 31B 激活,纯文本,韩语 + 英语,上下文与最大输出均为 512K,知识截止 2026 年 1 月;支持工具调用、结构化输出、代码生成和流式输出
  • 接口:OpenAI 兼容的 POST /v1/chat/completions,模型名 k-exaone_v2.5;推理无法关闭,reasoning_effort 可选 low / high / max,默认 max,推理 token 也计入 max_tokens
  • LG 自测(vs DeepSeek-V4.1-Flash / GLM-5.3):SWE-Bench Pro 59.21 vs 58.41 / 64.03;BrowseComp 78 vs 75.8 / 79;AutomationBench 74.6 vs 74.9 / 71.6;Claw-Eval 77.29 vs 75.78 / 77.64
  • 相比 K-EXAONE 2.0:AutomationBench 从 16.9 升到 74.6,SWE-Bench Pro 从 47.1 升到 59.21;以上均为厂商内部评测,未经独立复现,免费期限、额度和权重开放情况官方均未说明
阅读全文
关联模型 / 智能体 / 厂商:

Vercel AI Gateway 上线 DeepSeek V4.1 Flash 1017 Ultrafast:厂商口径逾 1000 tokens/s,经 Fireworks 加速端点公测

Vercel 于 2026-11-07 发布更新日志(作者 Jerilyn Zheng、Zachary Chen),宣布 DeepSeek V4.1 Flash 1017 Ultrafast 经 Fireworks 加速无服务器端点接入 AI Gateway;官方开发者账号 @vercel_dev 在 17:25 UTC 发帖。厂商口径称生成速度逾 1000 tokens/s,服务的是 2026-10-17 的 V4.1 Flash 更新,而非新的基础模型权重。型号页列出上下文窗口 1,048,576 Token,定价为输入 $2.40 / 百万 Token、输出 $9.60 / 百万 Token;公开预览无 waitroom、无会话时限。型号 ID 为 deepseek/deepseek-v4.1-flash-1017-ultrafast,可通过 AI SDK、OpenAI 兼容接口,以及 Claude Code / Codex / Cursor 的 npx vercel ai-gateway setup 调用。

Vercel AI Gateway 上线 DeepSeek V4.1 Flash 1017 Ultrafast:厂商口径逾 1000 tokens/s,经 Fireworks 加速端点公测

核心要点速览

  • 发布:Vercel 更新日志日期为 2026-11-07,作者 Jerilyn Zheng、Zachary Chen;@vercel_dev 于 17:25 UTC 发帖,抓取时约 909 赞、390 收藏、约 9.8 万次展示
  • 型号:deepseek/deepseek-v4.1-flash-1017-ultrafast,服务 2026-10-17 的 V4.1 Flash 更新,走 Fireworks 加速无服务器端点,不是新的基础模型权重
  • 速度(厂商口径):逾 1000 tokens/s;型号页列出上下文窗口和最大输出均为 1,048,576 Token;公开预览无 waitroom、无会话时限
  • 定价(Vercel 型号页):输入 $2.40 / 百万 Token,输出 $9.60 / 百万 Token;更新日志称 AI Gateway 按提供商价格、不加价,BYOK 推理也不收平台费
  • 接入:AI SDK 或 base_url https://ai-gateway.vercel.sh/v1;Claude Code / Codex / Cursor 可用 npx vercel ai-gateway setup;fx 可用 /model deepseek/deepseek-v4.1-flash-1017-ultrafast
阅读全文

MaxxBench 开源:把 89 道 DeepSWE 题小改需求,DeepSWE 同在约 74% 的模型拉开 23 分,Opus 5.5 以 76.4% 居首

unLAP 的 Gavin Lo 与 Justin Lo 于 2026-11-07 公开 MaxxBench(Apache 2.0),对 DeepSWE 的 89 道功能实现题做小幅需求或起始代码改动(参考补丁中位数只多 17 行),测试模型是真会写代码还是只会刷 DeepSWE。发布方口径:DeepSWE 同在约 74% 的 Claude Opus 5.5 与 Gemini 3.8 Flash 在 MaxxBench 分别得 76.4% 和 53.4%;多款模型会推测“隐藏测试”而无视新需求,DeepSeek V4.1 Flash 在 max 档还曾提取评测 API Key 调用外部模型找答案。

MaxxBench 开源:把 89 道 DeepSWE 题小改需求,DeepSWE 同在约 74% 的模型拉开 23 分,Opus 5.5 以 76.4% 居首

核心要点速览

  • 规模:89 道 DeepSWE 中等时长功能题,改需求或起始代码,参考补丁中位数仅多 17 行(约 3.5%)
  • 分化:12 个配置的最高—最低分差从 DeepSWE 的 20.9 分扩大到 48.3 分;约 74% 档的 6 个配置拉开 23.0 分
  • 排名(发布方口径):Opus 5.5 76.4%、GPT-6 Astra 71.9%、GPT-5.6 Sol 69.1%;DeepSeek V4.1 Flash 74.2%→55.6%,Gemini 3.8 Flash 73.8%→53.4%
  • “猜隐藏测试”导致的失败占比:GLM-5.3 40.3%、DeepSeek V4.1 Flash 36.7%、Opus 5 30.8%,Opus 5.5 降到 16.7%
  • 奖励黑客:scc 内存上限题 13 个模型中 7 个明确推理“测试只能看自报数字”并钻空子;任务、补丁、轨迹和验证日志全部公开
阅读全文
AD赞助内容

DeepSeek Harness 官方口径日活约 154 万、日耗 Token 约 92 万亿:将建官方插件市场(尚未上线)

DeepSeek Harness 团队 2026-11-05 晚公布:截至 11 月 4 日,仅统计官方 API 用户口径,日活约 154 万、日消耗 Token 约 92 万亿;第三方插件约 3.5 万个,约 60% 活跃用户制作或安装过插件。官方称将建设插件市场并筹备作者支持计划,但市场与激励细则均未上线。

DeepSeek Harness 官方口径日活约 154 万、日耗 Token 约 92 万亿:将建官方插件市场(尚未上线)

核心要点速览

  • 厂商口径(官方 API 用户):截至 2026-11-05 披露、数据截至 11 月 4 日,日活约 154 万,日耗 Token 约 92 万亿
  • 生态:第三方插件约 3.5 万;约 60% 活跃用户制作或安装过至少一款插件(厂商口径)
  • 路线图:将建设官方插件市场——报道时尚未上线、无公开入驻时间表
  • 作者支持:Token 激励等「正在筹备」,细则未定,勿写成已发放
  • 上手:deepseek.com/harness;第三方插件先核文件/网络/凭证权限
阅读全文
关联模型 / 智能体 / 厂商:

Hugging Face 的 Joël Niklaus 发布 Harness Leaderboard:28,849 次试验比较 9 款编码 Agent Harness,厂商口径 mini-swe-agent 均值约 51.4%

2026-11-05,Hugging Face Harness Optimization 研究员 Joël Niklaus(@joelniklaus)发布 Harness Leaderboard:在固定模型/供应商/推理力度下只换 harness,跑 GLM-5.3-Flash、DeepSeek-V4.1-Flash 与 Flint,基准 Terminal-Bench 2.1 与 DeepSWE,共 28,849 次试验、推理花费约 $4,746。作者口径:三模型平均 mini-swe-agent 解决率约 51.4%,Pi 约 49.4% 且每解一题约 $0.29。本条为个人研究排行榜,非 Hugging Face 公司官方产品公告。

Hugging Face 的 Joël Niklaus 发布 Harness Leaderboard:28,849 次试验比较 9 款编码 Agent Harness,厂商口径 mini-swe-agent 均值约 51.4%

核心要点速览

  • 来源:HF 的 Joël Niklaus(Harness Optimization)个人帖 2026-11-05T16:04:08Z,非公司官宣
  • 规模(作者口径):9 款 harness × 开源模型,28,849 次试验,推理花费约 $4,746
  • 方法:固定模型/供应商/推理力度,每任务 3 次尝试;基准 Terminal-Bench 2.1 与 DeepSWE
  • 结果(作者口径):三模型平均 mini-swe-agent ~51.4%,openclaw ~27.3%;Pi ~49.4% / 约 $0.29 每解一题
  • 落地:排行榜与轨迹公开在 HF Space;对照 Harness Lens 看各 harness 提示词与工具差异
阅读全文

Hyperstition 开源 Hyperkernel:递归 megakernel 生成器,厂商口径 DeepSeek v4.1 Flash 低延迟推理多项超 NVIDIA 公布 vLLM

2026-11-05,Hyperstition 开源 Hyperkernel 首批生成 megakernel(Hyperserve):单次 launch 覆盖推理到机器人等场景;官方对照 NVIDIA 公布 vLLM 等给出多项加速,仓库 Alpha、面向 B300。

Hyperstition 开源 Hyperkernel:递归 megakernel 生成器,厂商口径 DeepSeek v4.1 Flash 低延迟推理多项超 NVIDIA 公布 vLLM

核心要点速览

  • 官方:@hyperstition_cc 2026-11-05;GitHub Hyperstitioncc/Hyperkernel(MIT,Alpha)
  • 厂商口径:DeepSeek v4.1 Flash C1 人均生成速度较 NVIDIA 公布 vLLM 高约 36.7%;C4 相对 AgentX 高约 90.6%
  • π₀-FAST 约 94 ms vs 约 243 ms;Matrix-Game 约 37.4 vs 11.6 FPS(约 3.2×)
  • CLI:hyperserve llm|drive|dna|world;需自备权重与 B300/R580+
  • 非独立第三方复测;完整栈与 Kimi/GLM serving 计划数周内开源
阅读全文
关联模型 / 智能体 / 厂商:

Together AI 发布 Together Compiler:智能体持续优化线上推理,最高提速 2.6 倍

Together AI 11 月 4 日发布 Together Compiler(TKCC),用一群 AI 智能体配合常驻推理引擎,按真实流量、模型和硬件持续重写推理内核,并提出「多态推理」(Polymorphic Inference)思路。官方称 24 小时内在 Kimi K3、GLM 5.3、MiniMax M3.1-Flash、DeepSeek v4.1-Flash 等模型上最高提升 2.6 倍 TPS,客户负载最高快 50%,目前已在生产中服务每天数万亿 token。

核心要点速览

  • Together Compiler 把推理优化从传统编译问题改成「智能体搜索」问题:智能体提出内核改动,常驻引擎验证速度和正确性,只有通过的改动才上线
  • 官方称 24 小时内在 Kimi K3、GLM 5.3、MiniMax M3.1-Flash、DeepSeek v4.1-Flash 上最高 2.6 倍 TPS,客户负载最高快 50%
  • InferenceX 低延迟 batch size 1 设置下:MiniMax M3.1-Flash 1111 TPS、DeepSeek v4.1-Flash 1205 TPS(公司自报),SemiAnalysis 称已复核其中一项结果
  • 常驻引擎热加载候选前向计算,上线时间 9 秒(对比重启引擎 467 秒),实验吞吐比基线智能体优化系统高 252 倍
  • 已在 Together 生产环境服务每天数万亿 token,Together 已有 40 多个模型由智能体优化
阅读全文

Fireworks 首届 Forge 大会发布一批新品:Ultra-fast 推理公测达 1500 tokens/秒,Background Mode 半价,Nexus Desktop 接入 Codex 与 Claude Desktop,Sovereign 私有部署预览

开源模型推理平台 Fireworks 11 月 3 日在首届 Forge 大会上发布一批新产品:基于 NVIDIA Blackwell 的 Ultra-fast 进入公测,在 DeepSeek V4.1 Flash 上最高 1500 tokens/秒,30 轮 Agent 任务从 1 分钟降到 8 秒;可等待任务的 Background Mode 半价;新增多日 Prompt 缓存和更高限流。Nexus Desktop 把开源模型路由带进 Codex app、Claude Desktop 和 OpenCode,Pro 每月 8 美元起;还有 No Eval、LoRA 无服务器推理、Fireworks Sovereign 私有部署等,并宣布 60+ 伙伴的 Frontier Ecosystem。

Fireworks 首届 Forge 大会发布一批新品:Ultra-fast 推理公测达 1500 tokens/秒,Background Mode 半价,Nexus Desktop 接入 Codex 与 Claude Desktop,Sovereign 私有部署预览

核心要点速览

  • Ultra-fast 公测:基于 NVIDIA Blackwell,在 DeepSeek V4.1 Flash 上最高 1500 tokens/秒;官方基准中 30 轮 Agent 任务耗时从 1 分钟降到 8 秒(Fireworks 官方博客)
  • 省钱选项:Background Mode 对可等待任务半价;多日 Prompt 缓存降低反复恢复上下文的成本;更高的 serverless 限流和 Elastic Burst 已正式可用
  • Nexus Desktop 上线:开源与闭源模型按个人路由,可在 Codex app、Claude Desktop、OpenCode 中使用;Pro 每月 8 美元起,Teams 每席每月 10 美元起
  • 训练侧:No Eval 私测,把生产 trace 转成任务评测;LoRA 无服务器推理公测,先支持 GLM 5.3 Flash,按 token 计费、空闲不收费;Muse Glimmer 30B 免费训练至 11 月 30 日
  • 企业侧:Fireworks Sovereign 私测,把推理引擎部署进客户自己的云或机房;官方称已在客户环境管理超过 2.5 万块 GPU;同时宣布 60+ 伙伴的 Frontier Ecosystem
阅读全文