【RAG检索增强生成】MaxKB：构建企业级知识库问答系统（Ollama+Qwen2）

最新推荐文章于 2024-08-09 11:15:43 发布
最新推荐文章于 2024-08-09 11:15:43 发布
阅读量2.7k 收藏 119
点赞数 115
分类专栏： AI大模型RAG应用探索实践 文章标签： 人工智能 AIGC 语言模型 AI编程
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/xiaobing259/article/details/140173399
版权

目录

引言

我们生活在一个信息爆炸的时代，数据的增长速度前所未有，企业每天产生的数据量呈指数级增长。这些数据中蕴含着巨大的价值，但同时也带来了前所未有的挑战：如何从海量的数据中快速提取有价值的信息，转化为企业的竞争优势？传统的数据处理方法已经无法满足现代企业的需求，企业迫切需要一种更高效、更智能的解决方案。

在这样的背景下，MaxKB应运而生。MaxKB，即Max Knowledge Base，是一款基于LLM（Large Language Model）大语言模型的知识库问答系统。它利用最新的人工智能技术，特别是自然语言处理（NLP）和机器学习，为企业提供了一种全新的信息处理和利用方式。

1、MaxKB概述

1.1 定义与目标

MaxKB，全称Max Knowledge Base，是一个开源的AI知识库问答系统。它的目标是成为企业的"最强大脑"，通过集成大型语言模型，提供快速、准确的问答服务。
在这里插入图片描述

1.2 特点与优势

  • 开箱即用：支持直接上传文档、自动爬取在线文档，支持文本自动拆分、向量化、RAG（检索增强生成），智能问答交互体验好；
  • 无缝嵌入：支持零编码快速嵌入到第三方业务系统；
  • 多模型支持：支持对接主流的大模型，包括 Ollama 本地私有大模型（如 Meta Llama 3、qwen 等）、通义千问、OpenAI、Azure OpenAI、Kimi、智谱 AI、讯飞星火和百度千帆大模型等。

2、MaxKB原理

知识库构建
MaxKB通过构建知识库，将企业内部的文档、资料等信息进行结构化存储，便于后续的检索和分析。
问答机制
利用LLM大语言模型，MaxKB能够理解用户的查询意图，并从知识库中检索出最相关的答案。
在这里插入图片描述

3、MaxKB架构

技术栈

  • 前端：Vue.js
  • 后端：Python / Django
  • 工作流引擎：LangChain
  • 向量数据库：PostgreSQL / pgvector
  • 大模型支持：Azure OpenAI、OpenAI、百度千帆等

系统组件：MaxKB由多个组件构成，包括文档上传、自动爬虫、文本处理、问答引擎等，共同协作完成知识库的构建和问答服务。
文档处理：支持多种格式的文档上传，自动进行文本拆分和向量化处理。
智能问答：提供智能问答交互，根据用户查询，快速从知识库中检索答案。
业务系统集成：支持与第三方业务系统的集成，无需编码即可实现智能问答功能。
在这里插入图片描述

4、基于MaxKB+Ollama+Qwen2搭建本地知识库

4.1 环境准备

确保系统满足MaxKB的运行条件，包括操作系统、数据库、Python环境等。

  • 操作系统：Ubuntu 22.04 / CentOS 7 64 位系统；
  • CPU/内存： 推荐 2C/4GB 以上；
  • 磁盘空间：100GB；
  • 浏览器要求：请使用 Chrome、FireFox、Safari、Edge等现代浏览器；
    可访问互联网。

4.2 部署MaxKB

通过Docker快速部署MaxKB，执行以下命令即可启动服务：

docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data cr2.fit2cloud.com/1panel/maxkb

安装成功后，可通过浏览器访问 MaxKB：
http://目标服务器 IP 地址:目标端口
默认登录信息

用户名：admin 默认密码：MaxKB@123…

4.3 部署Ollama

Ollama支持多种安装方式，包括通过包管理器、Docker或从源代码编译。
对于Linux用户，可以使用如下命令进行安装：

curl -fsSL https://ollama.com/install.sh | sh

查看模型列表：

ollama list

查看版本：
查看 Ollama 版本

ollama -v

启动服务：

ollama serve

4.4 部署运行qwen2

Ollama支持很多模型，可以在https://ollama.com/library查看
使用以下命令部署运行模型：

ollama run qwen2

4.5 知识库配置

4.5.1登录 MaxKB 系统

使用浏览器打开服务地址：http://目标服务器IP地址:目标端口。
默认的登录信息：

用户名：admin 默认密码：MaxKB@123…

打开【知识库】页面，点击【创建知识库】，进入创建知识库页面。 输入知识库名称、知识库描述、选择通用型知识库类型。
然后将离线文档通过拖拽方式或选择文件上传方式进行上传。

4.5.2上传文档

上传文档要求：
1）支持文本文件格式为：Markdown、TXT、PDF、DOCX、HTML；
2）支持 QA 问答对格式为：Excel、CSV；
3）每次最多上传 50 个文件；
4）每个文件不超过 100 MB；
5）支持选择文件夹，上传文件夹下符合要求的文件。
在这里插入图片描述

4.5.3设置分段规则

智能分段
MarkDown 类型的文件分段规则为：根据标题逐级下钻式分段（最多支持 6 级标题），每段的字符数最大为 4096 个字符；
当最后一级的文本段落字符数超过设置的分段长度时，会查找分段长度以内的回车进行截取。
HTML、DOCX 类型的分段规则为：识别标题格式转换成 markdown 的标题样式，逐级下钻进行分段（最多支持 6 级标题）每段的字符数最大为 4096 个字符；
TXT和 PDF 类型的文件分段规则为：按照标题# 进行分段，若没有#标题的责按照字符数4096个字符进行分段，会查找分段长度以内的回车进行截取。
在这里插入图片描述

高级分段
用户可以根据文档规范自定义设置分段标识符、分段长度及自动清洗。
分段标识支持：#、##、###、####、#####、######、-、空行、回车、空格、分号、逗号、句号，若可选项没有还可以自定义输入分段标识符。
分段长度：支持最小 50个字符，最大 4096 个字符。
自动清洗：开启后系统会自动去掉重复多余的符号如空格、空行、制表符等。
在这里插入图片描述

4.6 模型配置

添加 Ollama 模型
点击【添加模型】，选择供应商【 Ollama 】，直接进入下一步填写 Ollama 供应商的大模型表单。或者左侧供应商先选择【 Ollama 】，然后点击【添加模型】，则直接进入 Ollama 表单。
模型名称： MaxKB 中自定义的模型名称。
模型类型： 大语言模型。
基础模型： 为供应商的 LLM 模型，支持自定义输入，但需要与供应商的模型名称保持一致，系统会自动下载部署模型。
API 域名和 API Key: 为供应商的连接信息（Ollama 服务地址， 如：http://42.92.198.53:11434 ）。若没有 API Key 可以输入任意字符。
点击【添加】后 校验通过则添加成功，便可以在应用的 AI 模型列表选择该模型。
在这里插入图片描述

4.7 创建应用

点击【创建应用】，进入创建应用页面，左侧为应用信息，右侧为调试预览界面。
应用名称：用户提问时对话框的标题和名字。
应用描述：对应用场景及用途的描述。
AI模型： 在【系统设置】-【模型管理】中添加的大语言模型。

提示词：系统默认有智能知识库的提示词，用户可以自定义通过调整提示词内容，可以引导大模型聊天方向.
多轮对话： 开启时当用户提问携带用户在当前会话中最后3个问题；不开启则仅向大模型提交当前问题题。
关联知识库：用户提问后会在关联的知识库中检索分段。
开场白：用户打开对话时，系统弹出的问候语。支持 Markdown 格式；[-]后的内容为快捷问题，一行一个。
问题优化：对用户提出的问题先进行一次 LLM 优化处理，将优化后的问题在知识库中进行向量化检索；
开启后能提高检索知识库的准确度，但由于多一次询问大模型会增加回答问题的时长。

应用信息设置完成后，可以在右侧调试预览中进行提问预览，调试预览中提问内容不计入对话日志。
在这里插入图片描述

参数设置详细说明
1）检索模式：
向量检索：使用向量模型通过向量距离计算与用户问题最相似的文本分段；
全文检索：通过关键词检索，返回包含关键词最多的文本分段；
混合检索：同时执行全文检索和向量检索，再进行重排序，从两类查询结果中选择匹配用户问题的最佳结果。
2）相似度：相似度越高代表问题和分段的相关性越强。
3）引用分段数：提问时按相似度携带N个分段生成提示词询问 LLM 模型。
4）引用最大字符数：引用分段内容设置最大字符数，超过时则截断。
5）无引用知识库时，有 2 种处理方式可设置：
继续提问：可以自定义设置提示词，需要有{question}用户问题的占位符，才会把用户问题发送给模型。
指定回复内容：当没有命中知识库分段时可以指定回复内容。
在这里插入图片描述

结语

MaxKB，作为企业级知识库问答系统的佼佼者，不仅以其强大的功能和灵活的部署方式，为企业提供了一种高效、智能的信息处理方案，更在AI技术的持续进步中展现出无限的潜力。它通过深度整合自然语言处理和机器学习技术，使得企业能够轻松应对数据洪流，实现信息的快速检索、精准分析和智能决策。

展望未来，随着AI技术的进一步发展，MaxKB有望在知识管理和智能问答领域发挥更大的作用。它将继续推动企业知识资产的有效管理和利用，助力企业在激烈的市场竞争中保持领先。我们期待与更多企业携手，共同探索MaxKB的无限可能，开启智能信息处理的新篇章。

参考引用

在这里插入图片描述
🎯🔖更多专栏系列文章：AI大模型提示工程完全指南、AI大模型探索之路（零基础入门）、AI大模型预训练微调进阶、AI大模型开源精选实践、AI大模型RAG应用探索实践🔥🔥🔥 其他专栏可以查看博客主页📑

😎 作者介绍：我是寻道AI小兵，资深程序老猿，从业10年+、互联网系统架构师，目前专注于AIGC的探索。
📖 技术交流：欢迎关注【小兵的AI视界】公众号或扫描下方👇二维码，加入技术交流群，开启编程探索之旅。
💘精心准备📚500本编程经典书籍、💎AI专业教程，以及高效AI工具。等你加入，与我们一同成长，共铸辉煌未来。
如果文章内容对您有所触动，别忘了点赞、⭐关注，收藏！加入我，让我们携手同行AI的探索之旅，一起开启智能时代的大门！

寻道AI小兵
关注
  • 115
    点赞
  • 踩
  • 119
    收藏
    觉得还不错? 一键收藏
  • 88
    评论
专栏目录
CVP架构的企业级知识库落地
05-26
1.基于ChatGPT+VectorDB+Prompt架构实现的企业级本地知识库源码； 2.企业可以通过这个知识库来管理和分析自己的数据，比如客户信息、市场调研结果、产品数据等。 3. 利用本地知识库+通过RAG机制实现检索生成增强，落地实现企业级本地知识库机器人方案。（为了提高检索的效率和准确性，采用了RAG（Retrieval-Augmented Generation）机制。这是一种先进的信息检索技术，它结合了传统的关键字检索和最新的生成模型技术。通过RAG机制，系统能够理解用户的查询意图，然后从知识库中检索出最相关的信息，最后通过生成模型将这些信息整合成有用的答案）
基于rag的知识库问答系统
07-25
基于rag的知识库问答系统
Maxkb——无需代码，快速构建自己的AI助手
程序员阿龙的博客
07-13 3406
无需代码，快速构建一个属于自己的AI助手！
开源代码基于 ChatGLM+ Langchain 增强生成(RAG)大模型知识库增强问答系统
06-06
【开源代码】基于 ChatGLM+ Langchain 增强生成(RAG)大模型知识库增强问答系统 基于 ChatGLM 等大语言模型与 Langchain 等应用框架实现，开源、可离线部署的检索增强生成(RAG)大模型知识库项目。思想实现的基于本地知识库的问答应用，目标期望建立一套对中文场景与开源模型支持友好、可离线运行的知识库问答解决方案。
1Panel官方出品丨MaxKB：基于LLM大模型的知识库问答系统
FIT2CLOUD飞致云的博客
04-13 5489
1Panel应用商店上线AI问答系统MaxKB。
MaxKB 是一款基于 LLM 大语言模型的知识库问答系统
04-04
MaxKB 是一款基于 LLM 大语言模型的知识库问答系统。MaxKB = Max Knowledge Base，旨在成为企业的最强大脑。支持直接上传文档、自动爬取在线文档，支持文本自动拆分、向量化，智能问答交互体验好；支持零编码快速嵌入到第三方业务系统；支持对接主流的大模型，包括本地私有大模型（如 Llama 2）、Azure OpenAI 和百度千帆大模型等。
最强的知识库工具之MaxKB
qq_31532979的博客
07-20 329
MaxKB是一个知识库工具，可以帮助用户创建、管理和共享知识库。以上是MaxKB的使用说明和具体操作流程，哈哈哈，具体实操一下！欢迎关注微信公众号：数据科学与艺术。
知识库问答系统MaxKB
wbsu2004的博客
04-27 7908
MaxKB 是一款基于 LLM 大语言模型的知识库问答系统。
使用MaxKB添加本地部署的Ollama大语言模型搭建智能聊天系统
FGGIT的博客
05-06 3618
使用MaxKB添加本地部署的Ollama大语言模型搭建智能聊天系统
【开源项目】MaxKB+Ollama：构建私有化知识库问答系统
m0_59235245的博客
06-12 2172
MaxKB 是一款基于 LLM 大语言模型的知识库问答系统。MaxKB = Max Knowledge Base，旨在成为企业的最强大脑。：支持直接上传文档、自动爬取在线文档，支持文本自动拆分、向量化，智能问答交互体验好；：支持零编码快速嵌入到第三方业务系统；：支持对接主流的大模型，包括 Ollama 本地私有大模型（如 Llama 2、Llama 3、qwen）、通义千问、OpenAI、Azure OpenAI、Kimi、智谱 AI、讯飞星火和百度千帆大模型等。
基于LangChain-Chatchat实现的RAG-本地知识库的问答应用[1]-最新版快速实践并部署（检索增强生成RAG大模型）
丨汀、的博客
06-13 1430
基于LangChain-Chatchat实现的RAG-本地知识库的问答应用[1]-最新版快速实践并部署（检索增强生成RAG大模型）
无缝融入，即刻智能[3]：MaxKB知识库问答系统知识库能力、文档管理能力、Query管理、检索测试、权限管理等实践讲解
丨汀、的博客
08-05 175
无缝融入，即刻智能[3]：MaxKB知识库问答系统知识库能力、文档管理能力、Query管理、检索测试、权限管理等实践讲解
无缝融入，即刻智能[2]：MaxKB内置强大工作流引擎，编排AI工作流程，满足多样化业务需求
丨汀、的博客
08-02 138
无缝融入，即刻智能[2]：MaxKB内置强大工作流引擎，编排AI工作流程，满足多样化业务需求
MaxKB-无需代码，30分钟创建基于大语言模型的本地知识库问答系统
specssss的博客
06-18 1509
模型类型选择 大语言模型基础模型不能随意填写，只能使用ollma模型库中已有的模型类型：https://ollama.com/library，这里我们用的是qwen:1.8b。大模型和知识库创建成功后，就可以创建应用了。点击“应用->创建应用”，填入应用名称和应用描述，注意这里AI模型和关联知识库要选择前面两步创建的AI模型和知识库。除了上面截图中的环境要求外，建议docker的版本不低于20.10.8，否则可能无法启动Ollama服务。API域名填写前面ollama起服务的机器ip和端口（11434）
MaxKB创建本地知识库
Baker的博客
05-15 707
点击创建知识库后，设置知识库的名字，描述，然后上传知识库的文件，这里只是两种知识库，第一种是上传文件，大模型会解析文件中的文字，将文字分解后放到数据库，在需要的时候从数据库查询问题的答案，匹配上了就会引用知识库中的信息，第二种是通过url地址获取，同样会把数据存到数据库，这里演示第一种，我们做一个测试的文本文档上传，拖拽文件上传后点击创建并导入，回到应用界面，点击应用的设置，在应用信息中有关联知识库选项，点击其中的添加，把刚才的知识库加入进来，然后点击保存，就把知识库和这个应用关联起来了。
使用Ollama简单部署本地Qwen2
一个今天胜过两个明天
06-11 1741
Ollama 是一个开源的、本地运行的 AI 聊天模型，允许在自己的设备上运行 LLM，无需依赖云服务。运行完成后就可以和大模型对话了，不过ollama 只有命令行模式运行，这里我下载了chatbox软件来运行，打开软件 模型设置选择ollama 以及 对应的ollama模型。windows下选择exe ，然后运行安装，安装完成后。1.5b就是对应安装Qwen2 1.5b大模型，如果使用7b 就是 ollama run qwen2:7b。首先安装ollama， 访问官网 下载 ollama 对应版本。
利用MaxKB结合Ollama搭建知识库
program哲学
04-26 1204
详细介绍利用MaxKB结合Ollama搭建知识库,30 分钟内即可上线基于本地大模型的知识库问答系统，亲测可用
MaxKB：基于 LLM大语言模型的知识库问答系统实操
最新发布
weixin_44195690的博客
08-09 504
MaxKB ，基于 LLM（Large Language Model）大语言模型的知识库问答系统。
来试试MaxKB吧
weixin_38612318的博客
06-01 519
但后面发现，因为我的ollama是在家里的电脑上，虽然台式机我可以尽量少关机，但每次需要使用都需要远程到电脑上，在通过ssh的方式进行问答，灵活性和实用性感觉少了点，特别是在希望大语言模型与我的工作内容对接上，使之看起来炫酷爆炸。总的来说，maxkb强大的功能，多模型支持和便捷的部署方式，帮助我构建了自己知识库问答系统。如果感觉满意了，就可以考虑把maxkb无缝嵌入到别的系统，这样一下就把系统的level升上来了，嵌入的方式有2种，iframe和script，maxkb直接提供了嵌入代码，直接用即可。
UBuntu 安装maxkb
06-08
Ubuntu 是一种流行的开源Linux操作系统，MaxKB并不是一个标准的软件包名，所以我猜测您可能是在询问如何在Ubuntu上安装某个名为MaxKB的软件或工具。由于MaxKB的具体信息不详，我无法提供确切的步骤，但通常安装新软件在Ubuntu中可以通过包管理器进行。以下是安装一般软件的一般步骤： 1. 首先，打开终端。可以通过在Unity桌面搜索栏输入`Terminal`或按下`Ctrl+Alt+T`快捷键来打开。 2. 使用`apt`包管理器，如果MaxKB是可用的官方软件包，你可以输入以下命令： ``` sudo apt update sudo apt search maxkb ``` 这会更新软件包列表并查找名为MaxKB的软件。 3. 如果找到了MaxKB，然后执行安装命令，例如： ``` sudo apt install maxkb ``` 如果MaxKB不在`apt`源里，可能需要从其官方网站下载安装文件，或者使用`dpkg`或`snap`等其他方法，具体取决于MaxKB的类型（比如它是桌面应用、Python库还是自编译软件）。
评论 88
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值