📰 llama.cpp 与 ggml 正式发布 v1.0.0:3.5 年来首个大版本,C API 改用语义化版本、破坏性变更必升主版本;同时移除 35 个废弃函数,新增 FP8 KV 缓存、MoE 专家缓存与 /v1/audio/speech
11 月 13 日,ggml-org 在 GitHub 发布 llama.cpp v1.0.0,并在 Hugging Face 博客宣布 llama.cpp 与 ggml 两个库同时进入 v1.0.0。
💬 你怎么看?欢迎在评论区讨论。
#llama.cpp #ggml #本地 AI
0 条回复
