ggml-org/llama.cpp
纯 C/C++ 的大模型推理实现,CPU、Apple Silicon 与各类 GPU 都能跑,量化生态的源头项目。
项目速览
- 星标
- 133,588
- Fork
- 25,221
- 主语言
- C++
- 开源许可证
- MIT
- 最近更新
- 2026-11-07(今天)
- 创建时间
- 2023-03-10
- 开放 Issue
- 2,588
- 所属分类
- AI 与大模型
llama.cpp 是什么
llama.cpp 是 ggml-org 在 GitHub 上维护的开源项目,属于「AI 与大模型」方向。纯 C/C++ 的大模型推理实现,CPU、Apple Silicon 与各类 GPU 都能跑,量化生态的源头项目。目前该项目累计获得 133,588 个星标、25,221 次 Fork,主语言为 C++,采用 MIT 许可证,最近一次代码提交在 2026-11-07。
适合什么场景
如果你正在为「AI 与大模型」方向寻找现成方案,llama.cpp 是值得放进候选清单的一个。判断它是否合适,建议重点看三件事: 仓库最近的提交频率与 Issue 响应速度、许可证是否与你的使用方式兼容、以及是否已有同类项目能覆盖你的需求。 下面的「同类项目」列出了同分类下的其他选择,可以直接横向对比星标、语言与许可证。
技术标签
ggml
使用前请确认
本站只提供介绍与索引,不托管代码、镜像或二进制文件。项目的实际行为、许可证条款与安全状况请以 GitHub 仓库为准; 商用前建议完整阅读 LICENSE 文件,并确认依赖项是否存在额外的授权限制。