开源LocalAI本地人工智能安装教程

LocalAI是一款能在本地运行的人工智能应用,它兼容了OpenAI API规范,它可以在普通的电脑运行,不需要GPU,也不需要联网,音频转录、使用 GPT 生成文本、使用稳定扩散生成图像(实验),支持与ggml格式兼容的多个模型系列llama、gpt4all、rwkv、whisper、vicuna、koala、gpt4all-j、cerebras、falcon、dolly、starcoder 等,一句话总结:本地运行,无需联网,只要有模型, 我们就可以轻松运行使用。

功能

1.本地的 OpenAI 嵌入式替代 REST API。你拥有你的数据。
2.无需 GPU。也不需要互联网访问。可选,GPU 加速在兼容的 LLM 中可用llama.cpp。
3.支持多种模型、音频转录、使用 GPT 生成文本、使用稳定扩散生成图像(实验)
4.第一次加载后,它会将模型加载到内存中以进行更快的推理
5.不掏空,但使用 C++ 绑定来实现更快的推理和更好的性能。

好了,按照惯例,我们直接上本地安装教程

安装教程

安装前需要在你的电脑中安装docker,不懂安装的话可以看下之前的文章

1.下载源码包
## 下载源码
https://github.com/go-skynet/LocalAI/archive/refs/heads/master.zip
2.解压后,
  • 1
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 2
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值