LocalGPT这个项目最大的亮点在于:
1).使用LLM的力量,无需互联网连接,就可以向你的文档提问。100%私密,任何数据都不会离开你的执行环境。你可以摄取文档并提问,无需互联网连接!
2).使用LangChain和Vicuna-7B以及InstructorEmbeddings构建。可以借助LangChain构建更高级能力的pipeline。
由于localGPT只能通过本地局域网IP地址+端口号的形式访问,实现远程访问还需搭配cpolar内网穿透。
环境准备
-
windows10
-
Git
-
python3.11.4
-
C++编译器
下载安装依赖过程中需要C++编译器,我们先提前安装C++编译器,进入微软官方下载vs2022工具:
https://visualstudio.microsoft.com/visual-cpp-build-tools/
下载后打开进行安装,我们勾选第一个C++桌面开发,然后点击右下角安装,接下来等待安装完成即可
1. localGPT部署
localGPT在Github 上面开源了,我们可以在里面复制克隆地址,把项目克隆到本地
GitHub 地址: https://github.com/PromtEngineer/localGPT
通过Git 把项目克隆到本地windows目录,在目录中打开Powershall,执行:
git clone https://github.com/PromtEngineer/localGPT.git
即可看到克隆下来的localGPT
进入localGPT目录
cd localGPT
下载安装依赖,然后等待完成即可
pip