跳到主要内容

llama.cpp

llama.cpp. 国内直接从官网 https://github.com/ggml-org/llama.cpp/ 下载比较困难,需要一些技术手段。这里提供一个国内的镜像下载地址列表,方便网友下载。

llama.cpp 是一个面向本地大模型推理的 C/C++ 运行时项目,强调高可移植性、量化支持和在多种硬件上的本地部署能力。 围绕它的发布资产通常包含命令行程序、示例工具和不同平台的构建产物,体积也经常较大。 为 llama.cpp 提供镜像页面后,开发者获取本地推理工具链会更稳定。

b9785

b9784

b9782

b9781

b9780

b9777

b9776

b9775

b9774

b9773

b9771

b9770

b9769

b9768

b9767

b9763

b9761

b9760

b9758

b9757

b9756

b9754

b9753

b9752

b9751

b9750

b9748

b9747

b9745

b9744

找不到想要的版本?您可以访问 官方网站 以下载更多版本。


欢迎关注的我微信公众号,第一时间获取我的最新文章。

🎯

推荐工具:Hagicode

Hagicode - AI 驱动的代码智能助手

OpenSpec 工作流 • 提案驱动开发 • 多实例并发协作 • 多轮对话与智能调试