跳到主要内容

llama.cpp

llama.cpp. 国内直接从官网 https://github.com/ggml-org/llama.cpp/ 下载比较困难，需要一些技术手段。这里提供一个国内的镜像下载地址列表，方便网友下载。

llama.cpp 是一个面向本地大模型推理的 C/C++ 运行时项目，强调高可移植性、量化支持和在多种硬件上的本地部署能力。 围绕它的发布资产通常包含命令行程序、示例工具和不同平台的构建产物，体积也经常较大。 为 llama.cpp 提供镜像页面后，开发者获取本地推理工具链会更稳定。

b10644​

b10643​

b10642​

b10639​

b10638​

b10636​

b10635​

b10632​

b10631​

b10630​

b10629​

b10628​

b10625​

b10622​

v0.3.0​

b10621​

b10620​

b10618​

b10617​

b10615​

b10614​

b10612​

b10610​

b10608​

b10606​

b10605​

b10604​

b10603​

b10599​

b10598​

找不到想要的版本？您可以访问 官方网站 以下载更多版本。

欢迎关注的我微信公众号，第一时间获取我的最新文章。
🎯

推荐工具：Hagicode

Hagicode - AI 驱动的代码智能助手

OpenSpec 工作流 • 提案驱动开发 • 多实例并发协作 • 多轮对话与智能调试

Microsoft Store 安装实战视频