基于Ollama+MaxKB快速搭建企业级RAG系统

一、环境准备

Docker20以上，Docker的安装参考【云计算】Ubuntu多种安装docker方式_ubuntu安装docker-CSDN博客

二、Ollama的安装部署

首先拉取ollama的docker镜像：

docker pull ollama/ollama:0.1.32

然后启动ollama的服务，注意容器内ollama的服务是在11434端口，然后我们通过-p将ollma的服务映射到宿主机的11434端口：

docker run -d --network host -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama:0.1.32

三、MaxKB的安装部署

拉取maxkb的docker镜像：

docker pull 1panel/maxkb

启动maxkb的服务：

docker run -d --name=maxkb -p 8080:8080 -v /Users/lishihao/linkpath/maxkb/.maxkb:/var/lib/postgresql/data 1panel/maxkb

通过浏览器访问maxkb的网页，ip即为maxkb和ollama提供服务的机器ip，端口为8080:

初次登录的用户名为admin，密码为MaxKB@123..

四、下载大模型

• 依次点击系统设置->模型设置->Ollama->添加模型
• 模型名称填写自定义的名称即可
• 模型类型选择 大语言模型
• 基础模型不能随意填写，只能使用ollma模型库中已有的模型类型：https://ollama.com/library，这里我们用的是llama3:8b
• API域名填写前面ollama起服务的机器ip和端口（11434）
• API Key随便填