本地大模型4：安装部署MaxKB

引言：什么是MaxKB

MaxKB 是一款基于大语言模型（LLM）的 AI 知识管理系统，专为研究人员、教育工作者和知识工作者设计。它能够通过自然语言处理（NLP）技术，从庞大的数据库中快速筛选出相关的信息，极大提高了知识检索和管理的效率。MaxKB 支持定制搜索参数，帮助用户更精确地获取所需的内容。

技术栈上，MaxKB 前端使用 Vue.js，后端采用 Python 和 Django 框架，结合向量数据库 PostgreSQL 和 pgvector 来实现高效的数据管理。其智能搜索系统能够集成多种大语言模型，例如 Azure OpenAI 和百度千帆等，适用于学术研究、企业知识管理和数据库整理等场景​

1.浏览器打开链接GitHub - 1Panel-dev/MaxKB: 🚀 基于大语言模型和 RAG 的知识库问答系统。开箱即用、模型中立、灵活编排，支持快速嵌入到第三方业务系统。，下拉找到【快速开始】，复制代码

​
docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data -v ~/.python-packages:/opt/maxkb/app/sandbox/python-packages cr2.fit2cloud.com/1panel/maxkb

# 用户名: admin
# 密码: MaxKB@123..

​

2.Win+R打开cmd，粘贴代码并回车（注意ollama和docker需要是开启状态），需要等待一段时间，完成后docker中会出现MaxKB

3.选中maxkb，点击进入

4.用下面的账号密码登录，并设置新密码

# 用户名: admin
# 密码: MaxKB@123..

5.点击创建应用，输入应用名称并创建

6.添加模型ollama

7.进入该页面，选择llama2，并在浏览器输入http://localhost:11434/，如果第二张图片所示，这表示ollama能跑通

8.输入API域名：http://host.docker.internal:11434,输入第4步的新密码，并点击添加，然后保存并发布

9.点击系统管理，模型设置可以看见正在下载的llama2，等待下载

10.下载完成后，点击应用，点击设置，进入设置页面选择刚刚下好的模型，保存并发布

11.点击应用，再点击演示图标，进入对话页面进行对话