官方 @ggml_org 发布 llama.cpp v0.4.1:新增 Maple 20B-A1B、Tencent Hy 4、Spark2.5 等架构支持;改进 Kimi-K3 状态回滚、JSON schema、qwen3-coder 复杂类型解析与 MCP/多模态相关修复,并将 ggml 更新至 v0.24.0。发布说明见 GitHub ggml-org/llama.cpp releases/tag/v0.4.1。

核心要点速览

  • ✓官方发布 llama.cpp v0.4.1,支持 Maple 20B-A1B、Tencent Hy 4、Spark2.5。
  • ✓改进 qwen3-coder 解析、Kimi-K3 回滚、JSON schema 与多模态/服务端稳定性。
  • ✓ggml 升级到 v0.24.0;发布页 ggml-org/llama.cpp v0.4.1。
🧭

把技术选型换算成你的开发预算

40 款主流编程套餐横向比价,支持输入/输出 Token 真实账单模拟

实战指南准备好将技术转化为生产力?

即刻查看该技术对应模型与主流工具的实测差异,或一键测算团队 API 调用与 $20/月套餐盈亏平衡点。

接着读llama.cpp 与 ggml 正式发布 v1.0.0:3.5 年来首个大版本,C API 改用语义化版本、破坏性变更必升主版本;同时移除 35 个废弃函数,新增 FP8 KV 缓存、MoE 专家缓存与 /v1/audio/speech
立即阅读→