FastGPT 是一个基于 LLM 大语言模型的知识库问答系统,提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排,从而实现复杂的问答场景!它是基于文档的知识库问答,用户可以上传文档,通过FastGPT实现对文档的解读,方便用户理解文章!
该开源项目的技术栈:NextJs + TS + ChakraUI + Mongo + Postgres(Vector 插件)
FastGPT的架构图
一、部署前需要准备的工具
1、一台境外的云服务器,或者 科学上网环境
2、openai账号的API Key
3、安装好docker以及docker-compose工具
# 安装 Docker
curl -sSL https://get.daocloud.io/docker | sh
systemctl enable --now docker
# 安装 docker-compose
curl -L https://github.com/docker/compose/releases/download/2.20.3/docker-compose-`uname -s`-`uname -m` -o /usr/local/bin/docker-compose
chmod +x /usr/local/bin/docker-compose
# 验证安装
docker -v
docker-compose -v
若以上命令失效,则可以访问 下面的更加详细的参考教程。
docker-compose 安装的参考教程:
https://blog.csdn.net/pushiqiang/article/details/78682323
https://blog.csdn.net/pushiqiang/article/details/78682323
https://doc.fastgpt.run/docs/installation/docker/
准备好以上环境后,下面开始部署FastGPT,开始计时3分钟完成部署:
二、安装教程
1、下载代码
git项目地址:https://github.com/labring/FastGPT
2、修改配置项
找到项目中的 files\deploy\fastgpt\docker-compose.yml
CHAT_API_KEY :配置你的openai的key
DEFAULT_ROOT_PSW:代表网站的初始密码为1234
ports:代表网站部署的端口号,默认3000
3、把文件传至服务器
进入 FastGPT-main/files/deploy/fastgpt/run.sh 的同级目录
4、执行 sh run.sh ,等待安装完成
4、docker ps 查看容器
可以看到执行完run.sh后,自动安装了 mongo、pgvector服务。
**PGVector:**是一个开源的向量化库,用于高效地处理大规模向量数据。它基于PostgreSQL数据库,并提供了一系列的向量化操作和函数,包括向量相似度计算、向量索引和查询等。PGVector可以帮助用户在数据库中存储和处理向量数据,从而实现更快速和高效的数据分析和机器学习任务。
5、部署完成后, 访问网址 ip:3000
6、账号密码登录
默认用户名密码:
root/1234
7、开始问答
以上就是部署的全部过程了!
作者部署了一个FastGPT服务,仅供个人学习使用,请大家切勿乱删知识库的文档:
网址:http://fastgpt.aixiaoxin.cloud/
用户名:root
密码:aixiaoxin
作者上传了几篇糖尿病相关的文档,可以基于这些文档进行提问:
点击去聊天,即可体验知识库问答。
问题示例:
查看引用段落:
注意事项:答案仅供参考,GPT生成的答案会存在乱说的情况,请勿完全相信它的答案!
若有任何gpt相关疑问,可以在 AI小新 公众号回复数字2,加入技术交流群,一起探讨。
参考文档:
https://zhuanlan.zhihu.com/p/647960390
https://blog.csdn.net/pushiqiang/article/details/78682323
https://blog.csdn.net/pushiqiang/article/details/78682323
https://doc.fastgpt.run/docs/installation/docker/
https://doc.fastgpt.run/docs/intro/