【AI+本地知识库】个人整理的几种常见本地知识库技术方案

之前关于本地知识库写过几篇文章。

【人工智能】电脑本地从零开始搭建属于自己的大模型  ,  

当时用的ollama  + Llama2 ， 现在 Llama3都已经开源了， 该更新自己的技术储备了。

 【人工智能】从0搭建行业智能机器人的几种选型技术方案

智能机器人 和 本地知识库 其实很类似，技术方案是相通的， 都是想实现一个 对隐私安全要求很高， 不希望泄露隐私数据的问答系统。

这里列几种常见的本地知识库技术方案，不一定全，排名不会先后。

1、MaxKB

开源代码地址：https://gitee.com/fit2cloud-feizhiyun/MaxKB

MaxKB 是一款基于 LLM 大语言模型的知识库问答系统。MaxKB = Max Knowledge Base，旨在成为企业的最强大脑。

• 开箱即用：支持直接上传文档、自动爬取在线文档，支持文本自动拆分、向量化，智能问答交互体验好；

• 无缝嵌入：支持零编码快速嵌入到第三方业务系统；

• 多模型支持：支持对接主流的大模型，包括本地私有大模型（如 Llama 2、Llama 3）、通义千问、OpenAI、Azure OpenAI、Kimi 和百度千帆大模型等。

• 快速开始

• docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb
  
  # 用户名: admin
  # 密码: MaxKB@123..

• 你也可以通过 1Panel 应用商店 快速部署 MaxKB + Ollama + Llama 2，30 分钟内即可上线基于本地大模型的知识库问答系统，并嵌入到第三方业务系统中。

• 你也可以在线体验：DataEase 小助手，它是基于 MaxKB 搭建的智能问答系统，已经嵌入到 DataEase 产品及在线文档中。

  个人评价：MaxKB 最近开源的， 对国人比较友好。

2、AnythingLLM

开源代码地址：https://github.com/Mintplex-Labs/anything-llm

AnythingLLM 是 Mintplex Labs Inc. 开发的一款开源 ChatGPT 等效工具，用于在安全的环境中与文档等进行聊天，专为想要使用现有文档进行智能聊天或构建知识库的任何人而构建。

AnythingLLM 能够把各种文档、资料或者内容转换成一种格式，让LLM（如ChatGPT）在聊天时可以引用这些内容。然后你就可以用它来和各种文档、内容、资料聊天，支持多个用户同时使用，还可以设置谁能看或改哪些内容。 支持多种LLM、嵌入器和向量数据库。

3、Langchain-Chatchat (原 Langchain-ChatGLM)

开源代码地址：https://github.com/chatchat-space/Langchain-Chatchat

基于 ChatGLM 等大语言模型与 Langchain 等应用框架实现，开源、可离线部署的检索增强生成(RAG)大模型知识库项目。

这3种技术方案市面上用得比较多， 文章也一大把。这里只是做简单整理，具体看官方介绍。

其他

1、ollama  +  xxx大模型  + open-webui

ollama开源地址：https://github.com/ollama/ollama

2、windows下安装Nvidia ChatRTX

工具地址：https://www.nvidia.com/en-eu/ai-on-rtx/chatrtx/ ，看了下系统要求 让我望而却步。

原文链接：【AI+本地知识库】个人整理的几种常见本地知识库技术方案