开源大模型RAG企业本地知识库问答机器人-ChatWiki

已于 2024-06-28 07:18:00 修改
阅读量950 收藏 14
点赞数 8
文章标签： RAG LLM llama
于 2024-06-28 07:17:15 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/yaoohfox/article/details/140031742
版权

ChatWiki

ChatWiki是一款开源的知识库 AI 问答系统。系统基于大语言模型（LLM ）和检索增强生成（RAG）技术构建，提供开箱即用的数据处理、模型调用等能力，可以帮助企业快速搭建自己的知识库 AI 问答系统。 开源地址 GitHub - zhimaAi/chatwiki: chatwiki

能力

1、专属 AI 问答系统

通过导入企业已有知识构建知识库，让 AI 机器人使用关联的知识库回答问题，快速构建企业专属 AI 问答系统。

2、一键接入模型

ChatWiki已支持全球20多种主流模型，只需要简单配置模型API key等信息即可成功接入模型。

3、数据自动预处理

提供自动分段、QA分段、手动输入和 CSV 等多种方式导入数据，ChatWiki自动对导入的文本数据进行预处理、向量化或 QA 分割。

4、简单易用的使用方式

ChatWiki采用直观的可视化界面设计，通过简洁易懂的操作步骤，可以轻松完成 AI 问答机器人和知识库的创建。

5、适配不同业务场景

ChatWiki为 AI 问答机器人提供了不同的使用渠道，支持H5链接、嵌入网站、绑定到微信公众号或小程序、桌面客户端等，可以满足企业不同业务场景使用需求。

开始使用

准备工作

再安装ChatWiki之前，您需要准备一台具有联网功能的linux服务器，并确保服务器满足最低系统要求

  • Cpu：最低需要2 Core
  • RAM：最低需要4GB

开始安装

ChatWiki社区版基于Docker部署，请先确保服务器已经安装好Docker。如果没有安装，可以通过以下命令安装：

sudo curl -sSL https://get.docker.com/ | CHANNEL=stable sh

安装好Docker后，逐步执行一下步骤安装ChatWiki社区版

(1).克隆或下载chatwiki项目代码

git clone https://github.com/zhimaAi/chatwiki.git

(2).使用Docker Compose构建并启动项目

cd chatwiki/docker
docker compose up -d

部署手册

在安装和部署中有任何问题或者建议，可以联系我们获取帮助，也可以参考下面的文档。

界面

1

2

3

4

5

6

7

8

9

技术架构

Architecture diagram

技术栈

  • 前端：vue.js

  • 后端：golang +python

  • 数据库：PostgreSQL16+pgvector+zhparser

  • 缓存：redis5.0

  • web服务：nginx

  • 异步队列：nsq

  • 进程管理：supervisor

  • 模型：支持OpenAI、Google Gemini、Claude3、通义千文、文心一言、讯飞星火、百川、腾讯混元等模型。

开源地址 GitHub - zhimaAi/chatwiki: chatwiki

yaoohfox
关注
深入剖析开源大模型+Langchain框架智能问答系统性能下降原因
击水三千里的专栏
12-14 1254
使用 Question-Answer （embedding Retrieval） 作为召回排序是性能不佳最根本的原因，开源的中文 embedding 模型在 Retrieval 任务上表现不佳。 模型输入 tokens 限制导致候选的 chunks 数量少于 openAI 模型近一倍，是整体准确率低于 openAI 全家桶的一个重要原因。 模型自身在阅读理解与总结任务上的不足，也对整体性能有一定的影响。
基于大语言模型的本地知识库问答系统构建方案
shiter编写程序的艺术
04-22 457
RAG 代表以下三个关键步骤「检索(Retrive)」 根据用户请求从外部知识源检索相关上下文。为此，使用嵌入模型将用户查询嵌入到与向量数据库中的附加上下文相同的向量空间中。这允许执行相似性搜索，并返回矢量数据库中最接近的前 k 个数据对象。「增强(Augment)」 用户查询和检索到的附加上下文被填充到提示模板中。「生成(Generate)」 最后，检索增强提示被馈送到 LLM。
Langchain---开源、离线、免费商用的大模型知识库来袭！全流程可使用开源模型实现的本地知识库问答应用！快速搭建个人和企业私有智能知识库！
tigerhhzz的博客
04-10 2889
GitHub开源了一款可离线，支持检索增强生成(RAG)大模型的知识库项目。虽然开源时间不长，但是势头很猛，已经斩获25K Star。具备以下特点：项目利用 langchain 思想实现的基于本地知识库的问答应用，目标期望建立一套对中文场景与开源模型支持友好、可离线运行的知识库问答解决方案；项目支持的开源 LLM 与 Embedding 模型，本项目可实现全部使用开源模型离线私有部署。与此同时，本项目也支持 OpenAI GPT API 的调用，并将在后续持续扩充对各类模型及模型 API 的接入；
5 个遥遥领先的AI大模型 RAG 工具，必须推荐给大家
z551646的博客
08-01 782
想象一下拥有一种超能力，让你能够对任何问题或提示生成类似人类的回答，同时还能够利用庞大的外部知识库确保准确性和相关性。这不是科幻小说，这就是检索增强生成（RAG）的力量。在本文中，我们将介绍五大遥遥领先的 RAG 工具或库：LangChain、LlamaIndex、Haystack、RAGatouille 和 EmbedChain。
开源一个RAG大模型本地知识库问答机器人-ChatWiki
huang9604的博客
08-01 741
目前大模型非常火爆，很多企业一直想把大模型用在企业的客服中，但是基本上没有太多的成功案例。
LangChain+所有开源大模型，轻松构建离线本地知识库问答（附整合包）
m0_59235699的博客
06-25 1164
Github地址（源项目）：star：79.8kGithub地址（二次开发）：star：25.2kLangChain 是一个开源框架，旨在帮助开发者更容易地构建由大型语言模型（LLMs）驱动的应用程序。它提供了一系列工具和接口，使得与语言模型的交互变得更加简单和高效。LangChain通过向量数据库检索的方式把知识前置，一定程度上优化了模型的回复，这仍然是一个快速发展、探索中的技术！LangChain 的灵活性和可扩展性使其成为开发者在各种需要自然语言处理能力的领域中的有力工具。
开源大模型RAG企业本地知识库问答机器人
huang9604的博客
07-02 948
这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。系统基于大语言模型（LLM ）和检索增强生成（RAG）技术构建，提供开箱即用的数据处理、模型调用等能力，可以帮助企业快速搭建自己的知识库 AI 问答系统。作为一名热心肠的互联网老兵，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。再安装ChatWiki之前，您需要准备一台具有联网功能的。
AIGC：阿里开源大模型通义千问部署与实战
热门推荐
十年以上架构设计经验，专注于软件架构和人工智能领域，对机器视觉、NLP、音视频等领域都有涉猎
12-20 1万+
通义千问-7B（Qwen-7B）是阿里云研发的通义千问大模型系列的70亿参数规模的模型。Qwen-7B是基于Transformer的大语言模型, 在超大规模的预训练数据上进行训练得到。预训练数据类型多样，覆盖广泛，包括大量网络文本、专业书籍、代码等。
人工智能_大模型015_RAG量化检索增强002_AIGC大模型_本地知识库实时问答_私域和实时场景_量化检索增强---人工智能工作笔记0151
添柴程序猿的专栏
03-02 249
然后再把这两个向量,输出给cosine-sim模型,再把结果,输出一下,如果这两个句子相近,那么在空间距离上,就让这两个空间夹角趋近于1,如果两个语义不一样,就让这两个句子,空间夹角趋近于0。关键词检索有语义上的缺陷,因为我们说法不一样,但是意思一样的话,那么,关键词如果在es库中没有,那么会导致,找不到答案的情况.所以我们引出向量检索,要求语义一样的词,去检索都能找到答案.然后假如是2维的,可以看到在右边,红点,那么这几个句子,对应的在,2维空间中的距离,因为他们语义相近,那么距离肯定越近.
RAG+Agent项目实践系列：基于本地菜谱知识库的大语言模型RAG+Agent的解决方案设计和实现
丨汀、的博客
08-09 277
RAG+Agent项目实践系列：基于本地菜谱知识库的大语言模型RAG+Agent的解决方案设计和实现
本地部署开源大模型的完整教程LangChain + Streamlit+ Llama
04-07
为了在本地CPU上运行LLM，需要使用GGML格式的本地模型。可以直接从Hugging Face Models存储库下载bin文件，并将其放置在项目的models目录中。由于GGML是C++库，还需要通过Python调用C++接口，这一步骤相对简单，可以...
RAG智能增强知识库方案调研,对比模型微调FT
tary的博客
04-17 1075
自有数据：产品知识库、问答等通过自有数据，更好的提升大模型在特定领域的能力。
【LLM-RAG】知识库问答 | 检索 | embedding_rag embedding
python12222_的博客
07-02 1603
BGE，即BAAI General Embedding，是由智源研究院（BAAI）团队开发的一款文本Embedding模型。该模型可以将任何文本映射到低维密集向量，这些向量可用于检索、分类、聚类或语义搜索等任务。此外，它还可以用于LLMs的向量数据库。BGE模型在2023年有多次更新，包括发布论文和数据集、发布新的reranker模型以及更新Embedding模型。BGE模型已经集成到Langchain中，用户可以方便地使用它。此外，BGE模型在MTEB和C-MTEB基准测试中都取得了第一名的成绩。
关于开源大模型必须知道的 10 件事
略懂……略懂……
05-16 1191
本文将向你介绍使用开源大语言模型需要了解的 10 个关键点。阅读完本文后，你将能够在庞大的 AI 世界中找到方向，了解你需要做什么，以及完成这些任务所需的工具。
网易RAG问答知识库开源了，Star 6K！！
深入Java世界：探索编程之美与技术深度
04-05 1376
目前已支持格式: PDF(pdf)，Word(docx)，PPT(pptx)，XLS(xlsx)，Markdown(md)，电子邮件(eml)，TXT(txt)，图片(jpg，jpeg，png)，CSV(csv)，网页链接(html)等。检索（Retrieval）：使用 Embedding 模型将用户输入问题转换为向量，计算问题的 Embedding 向量和语料库中文本块 Embedding 向量之间的相似度，选择相似度最高的前 K 个文档块作为当前问题的增强上下文信息。
RAG（大模型+知识库）落地与知识管理的春天-新的知识运营体系
weixin_59191169的博客
05-23 2275
大模型时代来了，可能你也知道GPT大模型是被海量知识训练出来的，但不知道你有没有问过，什么样的知识才能训练大模型？站在企业的角度，很多企业都有自己的知识库或者文档中心，很多人也都有自己积攒数年的资料库，那是不是用上大模型，就能轻松实现基于自己知识库的智能搜索/智能问答/智能推荐呢？（一）知识基础形态和知识质量在传统的搜索、问答、推荐等场景中，通常会返回一整篇的文档，我们还得在这一大篇资料中去找到自己想要的那一段具体内容。不少企业构建的知识库，其实就是文档库。
基于LangChain-Chatchat实现的RAG-本地知识库的问答应用[1]-最新版快速实践并部署（检索增强生成RAG大模型）
丨汀、的博客
05-06 1042
基于LangChain-Chatchat实现的RAG-本地知识库的问答应用[1]-最新版快速实践并部署（检索增强生成RAG大模型）
7种RAG工具，让你的LLMs发挥最大效用
基咯咯
03-27 2945
很棒的内容，对吧？随着大型语言模型（LLMs）在各个行业中的广泛应用，利益相关者的需求将变得更加复杂，因为请求变得更加多样化。所以，如果你想跟上最新的讨论、框架和技术，以便从你的LLM中获得最大的收益，那么你会想要在4月23日至25日参加ODSC East会议。在ODSC East会议上，有一个完整的专题讨论会专门致力于大型语言模型。你可以向业界领袖、研究人员以及人工智能领域的前沿人物学习。利用ReAct、LLMs和LangChain实现复杂推理和行动。
法律大语言模型RAG知识库检索
最新发布
08-19
法律大语言模型RAG（Retrieval-Augmented Generation，检索增强生成）是一种结合了信息检索技术和深度学习生成技术的模型。它在处理法律问题时，首先会在其广泛的知识库中搜索相关信息，然后利用这些检索到的背景知识来生成更准确、详细的回答。这种模型的优势在于能够综合已有的法律规定、判例分析以及相关的学术资源，提高对复杂法律问题的理解能力。 举个例子，如果你问关于某个特定法规的具体应用或历史演变，RAG会先找到相关的法规文本和先前案例作为支撑，然后再生成相应的解答。不过，需要注意的是，尽管RAG在一定程度上提高了效率，但它并非完美无缺，对于过于复杂或新近出现的法律动态可能无法即时更新。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值