LocalAI
LocalAI. 国内直接从官网 https://github.com/mudler/LocalAI/ 下载比较困难,需要一些技术手段。这里提供一个国内的镜像下载地址列表,方便网友下载。
LocalAI 是一个开源 AI 引擎,目标是在本地硬件上运行大语言模型、视觉、语音、图像和视频能力,并尽量降低对 GPU 的依赖。 它适合需要自托管、多模型和离线推理能力的团队或个人,并会发布多平台可部署资产。 把 LocalAI 纳入镜像目录后,国内用户下载这些推理运行包和升级版本会更高效。