MaxKB 结合 DeepSeek 实现基于 LLM 大语言模型的知识库问答系统

最新推荐文章于 2025-03-06 13:52:14 发布

ws_zzzz

最新推荐文章于 2025-03-06 13:52:14 发布

阅读量5.1k

点赞数 13

文章标签：语言模型人工智能自然语言处理

本文链接：https://blog.csdn.net/qq_29101725/article/details/140272057

版权

一、MaxKB 介绍

MaxKB - 基于大语言模型的知识库问答系统MaxKB = Max Knowledge Base，是一款基于 LLM 大语言模型的开源知识库问答系统，旨在成为企业的最强大脑。具体优势如下：

开箱即用
支持直接上传文档、自动爬取在线文档，支持文本自动拆分、向量化、RAG（检索增强生成），智能问答交互体验好；
无缝嵌入
支持零编码快速嵌入到第三方业务系统，让已有系统快速拥有智能问答能力，提高用户满意度；
灵活编排
内置强大的工作流引擎，支持编排 AI 工作流程，满足复杂业务场景下的需求；
模型中立
支持对接各种大语言模型，包括本地私有大模型（Llama 3 / Qwen 2 等）、国内公共大模型（通义千问 / 智谱 AI / 百度千帆 / Kimi / DeepSeek 等）和国外公共大模型（OpenAI / Azure OpenAI / Gemini 等）。

DeepSeek是深度求索推出的一款大型语言模型（LLM），具体优势如下：

性能卓越：
- DeepSeek-V2模型参数量达到了惊人的236B，每个token激活21B参数，支持长达128K token的上下文长度，性能直逼GPT-4-Turbo。
- 在中文综合能力评测中，DeepSeek-V2超越了所有开源模型，与GPT-4-Turbo等行业巨头处于同等水平。
- 在英文综合评测中，与最强的开源模型LLaMA3-70B处于同一梯队，超过最强MoE开源模型Mixtral8x22B。
- 在知识、数学、推理、编程等多个领域的专项基准测试中均表现出色。
低成本高效能：
- DeepSeek-V2采用了创新的模型架构和训练方法，大幅降低了计算量和显存占用，确保了高效推理。
- 其训练成本和部署成本大幅低于同类大模型，API定价仅为GPT-4-Turbo的近百分之一，每百万tokens仅需1元人民币。
全面开源：
- DeepSeek不仅提供了强大的模型性能，还坚持全面开源的策略，促进了AI社区的发展和创新。
- 用户在GitHub上可以访问到DeepSeek的多个开源项目，包括DeepSeek-VL、DeepSeek-Coder、DeepSeek-LLM、DeepSeek-MoE等。
多场景应用：
- DeepSeek可应用于智能对话、内容创作、教育辅助、专业服务等多个领域。
- 其强大的对话生成能力、写作、数学和编程能力，为各行各业的专业人士提供了有力的支持。

具体功能可以参考官网：DeepSeek | 深度求索

安装前请确保您的系统符合安装条件：

MaxKB 支持一键启动，仅需执行以下命令：

docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data cr2.fit2cloud.com/1panel/maxkb

打开社区网站下载 MaxKB 离线包社区版离线包

上传至服务器后进行解压缩，执行以下命令：

# maxkb-v1.3.0-offline.tar.gz替换成下载包的名字  
tar -zxvf maxkb-v1.3.0-offline.tar.gz

安装 MaxKB，执行以下命令：

# 进入安装包解压缩后目录  
cd maxkb-v1.3.0-offline

# 执行安装命令
bash install.sh

通过1Panel应用商店，快速安装MaxKB应用。

安装成功后，可通过浏览器访问 MaxKB：

http://目标服务器 IP 地址:目标端口

默认登录信息
用户名：admin
默认密码：MaxKB@123..

在 MaxKB 系统设置中模型设置中使用 DeepSeek ，对应的 API Key 可以通过 DeepSeek官网注册获取，首次注册赠送 500 万 tokens，对于需要了解和试用 LLM 大语言模型的同学来说已经够用了。

输入知识库名称、知识库描述、选择通用型知识库类型。然后将离线文档通过拖拽方式或选择文件上传方式进行上传。

应用是指基于LLM大语言模型构建的实际场景应用，当前应用支持简易配置和高级编排自定义AI工作流应用。同可以全屏模式和浮窗模式嵌入到第三方产品，可以根据需求为不同产品创建所需的应用。