深度GIT开源

ggml-org/llama.cpp

纯 C/C++ 的大模型推理实现,CPU、Apple Silicon 与各类 GPU 都能跑,量化生态的源头项目。

项目速览

星标
133,588
Fork
25,221
主语言
C++
开源许可证
MIT
最近更新
2026-11-07(今天)
创建时间
2023-03-10
开放 Issue
2,588
所属分类
AI 与大模型

llama.cpp 是什么

llama.cpp 是 ggml-org 在 GitHub 上维护的开源项目,属于「AI 与大模型」方向。纯 C/C++ 的大模型推理实现,CPU、Apple Silicon 与各类 GPU 都能跑,量化生态的源头项目。目前该项目累计获得 133,588 个星标、25,221 次 Fork,主语言为 C++,采用 MIT 许可证,最近一次代码提交在 2026-11-07。

适合什么场景

如果你正在为「AI 与大模型」方向寻找现成方案,llama.cpp 是值得放进候选清单的一个。判断它是否合适,建议重点看三件事: 仓库最近的提交频率与 Issue 响应速度、许可证是否与你的使用方式兼容、以及是否已有同类项目能覆盖你的需求。 下面的「同类项目」列出了同分类下的其他选择,可以直接横向对比星标、语言与许可证。

技术标签

ggml

使用前请确认

本站只提供介绍与索引,不托管代码、镜像或二进制文件。项目的实际行为、许可证条款与安全状况请以 GitHub 仓库为准; 商用前建议完整阅读 LICENSE 文件,并确认依赖项是否存在额外的授权限制。