前言:
公司达到一定的规模之后,都会积累大量的文档。这些文档包含:行政管理制定、财务管理制度、行业知识、政策文件、合同库、简历库等等。有时候从这些大量的文档中检索出有用的信息是一件很繁琐的事情。有了AI的介入,这个事情将变得的简单很多。
FastGPT:
FastGPT 是一个基于 LLM 大语言模型的开源知识库问答系统,基于apache2.0开源License。FastGPT提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排,从而实现复杂的问答场景!
快速搭建
FASTGPT运行的环境需要:mongodb、向量数据库:pgvector、one-api。下面我们讲一下使用docker快速布署这些环境。
使用docker搭建mongodb单节点副本集:
其中 --replSet rs0就是指明开启副本集
mongodb已经启动,接下来我们进入容易初始化副本集
已经进入到mongosh终端,接下来输入rs.initiate()根据默认配置生成一个副本集
使用docker搭建one-api
one-api通过标准的 OpenAI API 格式聚合多个大模型api,开箱即用 。
安装one-api
安装pgvector
pgvector安装完成后需要初始一下数据。操作步骤如下:
进入容器并登录pgvcetor【postgres】 终端
#按照提示输入密码,登录到pgvcetor【postgres】 终端
执行完成后,向量数据库就已经初始好了
布署fastgpt
布署完成,可以开始使用AI知识库了