llama.cpp 与 ggml 正式发布 v1.0.0:3.5 年来首个大版本,C API 改用语义化版本、破坏性变更必升主版本;同时移除 35 个废弃函数,新增 FP8 KV 缓存、MoE 专家缓存与 /v1/audio/speech
11 月 13 日,ggml-org 在 GitHub 发布 llama.cpp v1.0.0,并在 Hugging Face 博客宣布 llama.cpp 与 ggml 两个库同时进入 v1.0.0。今后 ./include 下公共 C API 出现破坏性变更时升主版本,向后兼容的新功能、后端和模型支持升次版本,纯修复升补丁版本。本次 release 移除 35 个废弃函数,把 NextN/投机解码 API 提升进 llama.h,新增 OCP FP8 KV 缓存、可设 CPU 分担比例的 MoE 专家缓存,加入 Kimi-K3.1-Pro 等新架构,llama-server 加固 SSRF/CORS/DNS rebinding 防护并新增 OpenAI 兼容的 /v1/audio/speech。作者 Georgi Gerganov 的发布帖约 4,180 赞。

- •版本规则:MAJOR = ./include 公共 C API 破坏性变更;MINOR = 向后兼容的功能、后端、模型支持或 API 新增;PATCH = 不改 API 的修复
- •破坏性变更:移除 llama_set_warmup、35 个废弃函数和 --defrag-thold;llama_set_embd_state_src 改名为 llama_set_ctx_state_src,嵌入 libllama 的项目升级前要改代码
- •新能力:FP8 KV 缓存(-ctk/-ctv f8_e4m3)、MoE 专家缓存(moe_cache_size、moe_cache_cpu_share)、通过 --shard/--ple 加载外部 PLE 分片
- •llama-server 加固 SSRF、CORS、DNS rebinding 与 MCP 工具取消,新增 OpenAI 兼容 /v1/audio/speech,Web UI 重做(GitHub release)
- •分发渠道包括 Docker、Debian、Homebrew、conda-forge、MacPorts、Winget 和 XCFramework;项目目前支持 150+ 种架构变体













