基于Langchain的LLM大模型知识库问答系统系统个搭建

于 2024-05-21 10:21:29 发布
阅读量434 收藏 9
点赞数 8
分类专栏： 知识库 大模型 文章标签： langchain
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/xziyuan/article/details/139085528
版权

最近在研究如何使用langchain构造一个本地的大模型问答系统, 找了套源码部署，下面是一些经验, 以飨读者, 源码已经上传 源码下载 ， 下面的是一些研究笔记和部署教程

问答系统架构

目前的问答系统架构都差不多

在这里插入图片描述
这套流程也可以称之为RAG, 主要分为三部分

内容抽取与向量化

将长文档以某种方式切分为若干 block，每个 block 大小一般会小于向量模型能处理的最大上下文。切分方式可以简单也可以是一个复杂的策略。比如，相邻的 block 之间可以保留重复的内容，用来降低简单切分方式造成的信息损失，并进一步补充 block 的上下文信息。

然后将block块向量化,存储在向量数据库中， 比如es, pg_vector, faiss等

ANN向量搜索

对于输入的query ，使用相同的embedding模型进行向量化, 然后在向量数据库中获取n个documents

文档给LLM并提问

将最近的documents合并成上下文并提供给llm问答，构造对应的prompt

简单的问答系统架构都是这样的, 但是具体的有很多细节可以做,比如如何分快, 如何提升召回率， 指令模版怎么构建等等,

关于分享的源码

分享的这套源码 源码下载 ，是同事给我的，目前已经传csdn, 0积分下载， 自己拿法律问答试了一下, 准确率还算可以, 用api形式的chatglm-turbo比本地的7b参数好很多

xziyuan
关注
  • 8
    点赞
  • 踩
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
基于 LLM 大语言模型的知识库问答系统，1Panel 官方出品
05-28
MaxKB 是一款基于 LLM 大语言模型的知识库问答系统。MaxKB = Max Knowledge Base，旨在成为企业的最强大脑。 开箱即用：支持直接上传文档、自动爬取在线文档，支持文本自动拆分、向量化、RAG（检索增强生成），智能问答交互体验好； 无缝嵌入：支持零编码快速嵌入到第三方业务系统； 多模型支持：支持对接主流的大模型，包括 Ollama 本地私有大模型（如 Meta Llama 3、qwen 等）、通义千问、OpenAI、Azure OpenAI、Kimi、智谱 AI、讯飞星火和百度千帆大模型等。
基于 LLM 大语言模型的知识库问答系统1Panel 官方出品
04-09
基于 LLM 大语言模型的知识库问答系统，1Panel 官方出品。MaxKB 是一款基于 LLM 大语言模型的知识库问答系统。MaxKB = Max Knowledge Base，旨在成为企业的最强大脑。开箱即用：支持直接上传文档、自动爬取在线文档，支持文本自动拆分、向量化，智能问答交互体验好；无缝嵌入：支持零编码快速嵌入到第三方业务系统；多模型支持：支持对接主流的大模型，包括本地私有大模型（如 Llama 2）、Azure OpenAI 和百度千帆大模型等。你也可以通过 1Panel 应用商店 快速部署 MaxKB + Ollama + Llama 2，30 分钟内即可上线基于本地大模型的知识库问答系统，并嵌入到第三方业务系统中。你也可以在线体验：DataEase 小助手，它是基于 MaxKB 搭建的智能问答系统，已经嵌入到DataEase 产品及在线文档中。如有更多问题，可以查看后端：Python / Django使用手册，或者通过论坛与我们交流。大模型：Azure OpenAI、百度千帆大模型、Ollama。前端：Vue.js向量数据库：PostgreSQL / pgvector
基于Python+Django的LLM大语言模型知识库问答系统源码+数据集+详细文档（高分毕业设计）.zip
05-20
基于Python+Django的LLM大语言模型知识库问答系统源码+数据集+详细文档（高分毕业设计）.zip本资源中的源码都是经过本地编译过可运行的，评审分达到95分以上。资源项目的难度比较适中，内容都是经过助教老师审定过的能够满足学习、使用需求，如果有需要的话可以放心下载使用。 基于Python+Django的LLM大语言模型知识库问答系统源码+数据集+详细文档（高分毕业设计）.zip基于Python+Django的LLM大语言模型知识库问答系统源码+数据集+详细文档（高分毕业设计）.zip基于Python+Django的LLM大语言模型知识库问答系统源码+数据集+详细文档（高分毕业设计）.zip基于Python+Django的LLM大语言模型知识库问答系统源码+数据集+详细文档（高分毕业设计）.zip基于Python+Django的LLM大语言模型知识库问答系统源码+数据集+详细文档（高分毕业设计）.zip基于Python+Django的LLM大语言模型知识库问答系统源码+数据集+详细文档（高分毕业设计）.zip基于Python+Django的LLM大语言模型知识库问答系统源码+
MaxKB基于LLM大语言模型的知识库问答系统企业的最强大脑开箱即用
04-02
MaxKB是一款基于LLM大语言模型的知识库问答系统。MaxKB = Max Knowledge Base，旨在成为企业的最强大脑。开箱即用：支持直接上传文档、自动爬取在线文档，支持文本自动拆分、向量化，智能问答交互体验好；无缝嵌入：支持零编码快速嵌入到第三方业务系统；多模型支持：支持对接主流的大模型，包括本地私有大模型（如Llama 2）、Azure OpenAI和百度千帆大模型等。快速开始docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb#用户名: admin#密码: MaxKB@123.. 你也可以通过1Panel应用商店快速部署MaxKB + Ollama + Llama 2，30分钟内即可上线基于本地大模型的知识库问答系统，并嵌入到第三方业务系统中。你也可以在线体验：DataEase小助手，它是基于MaxKB搭建的智能问答系统，已经嵌入到DataEase产品及在线文档中。如你有更多问题，可以查看使用手册，或者通过论坛与我们交流。MaxK支持多种大模型
MaxKB 是一款基于 LLM 大语言模型的知识库问答系统
04-04
MaxKB 是一款基于 LLM 大语言模型的知识库问答系统。MaxKB = Max Knowledge Base，旨在成为企业的最强大脑。支持直接上传文档、自动爬取在线文档，支持文本自动拆分、向量化，智能问答交互体验好；支持零编码快速嵌入到第三方业务系统；支持对接主流的大模型，包括本地私有大模型（如 Llama 2）、Azure OpenAI 和百度千帆大模型等。
基于LangChain+LLM的本地知识库问答：从企业单文档问答到批量文档问答
热门推荐
结构之法 算法之道
07-05 8万+
本文则侧重讲解 1 什么是LangChain及langchain的整体组成架构 2 解读langchain-ChatGLM项目的关键源码，不只是把它当做一个工具使用，因为对工具的原理更了解，则对工具的使用更顺畅 3 langchain-ChatGLM项目的升级版langchain-chatchat
LangChain+LLM大模型问答能力搭建与思考
谁谓荼苦，其甘如荠
07-20 2451
利用LLMs超大语言模型能力，以及LangChain向量检索库，开发一个支持知识库问答（垂直领域问答）的系统，以及实战所思所想
基于大语言模型LangChain框架：知识库问答系统实践
博文视点（北京）官方博客
12-26 3185
ChatGPT 所取得的巨大成功，使得越来越多的开发者希望利用 OpenAI 提供的 API 或私有化模型开发基于大语言模型的应用程序。然而，即使大语言模型的调用相对简单，仍需要完成大量的定制开发工作，包括 API 集成、交互逻辑、数据存储等。为了解决这个问题，从 2022 年开始，多家机构和个人陆续推出了大量开源项目，帮助开发者快速创建基于大语言模型的端到端应用程序或流程，其中较为著名的是 LangChain 框架。
基于LangChain+LLM大模型构建企业本地知识库问答系统实现方案
xubinbrave的博客
03-26 1416
分析了LangChain的源码并且介绍了相关的应用构建方式
【LangChain学习之旅】—（3） LangChain快速构建本地知识库的智能问答系统
我们都是被分成两半的人，一边热爱生活，一边憎恨生活。面对生活，我们总是在矛盾的两端摇摆，在反复的矛盾和犹豫中，一边踉跄前行，一边重振旗鼓。我渴望改变，渴望变得更好，渴望找到出口……就像一个溺水人的挣扎，就像一个救生圈。我是一个矛盾集合体，想要变得快乐，但是
12-17 1825
此时，信息提取的基本方式就是把问题也转换为向量，然后去和向量数据库中的各个向量进行比较，提取最接近的信息。从这些向量中，我们可以看到“国王”和“皇帝”这两个词的向量在某种程度上是相似的，而与“苹果”这个词相比，它们的向量则相差很大，因为这两个概念在语义上是不同的。余弦相似度度量的是方向的相似性，它更关心的是两个向量的角度差异，而不是它们的大小差异。（注意：可能需要安装。在众多的机器学习和人工智能应用中，尤其是自然语言处理和图像识别这类涉及大量非结构化数据的领域，将数据转化为高维度的向量是常见的处理方式。
基于 Langchain-Chatchat，我搭建了一个本地知识库问答系统
2201_75499313的博客
02-01 1775
前沿技术资讯、算法交流、求职内推、算法竞赛、面试交流(校招、社招、实习)等、与 10000+来自港科大、北大、清华、中科院、CMU、腾讯、百度等名校名企开发者互动交流~本项目实现原理如下图所示，过程包括 加载文件 -> 读取文本 -> 文本分割 -> 文本向量化 -> 问句向量化 -> 在文本向量中匹配出与问句向量最相似的。如需在本地或离线环境下运行本项目，需要首先将项目所需的模型下载至本地，通常开源 LLM 与 Embedding 模型可以从 HuggingFace 下载。， 不然该项目跑不动。
基于开源大模型Vicuna-13B构建私有制库问答系统
u011728347的专栏
05-18 4540
使用开发的大模型应用项目和大模型，部署一个私有知识库使用 基于开源大模型Vicuna-13B构建私有制库问答系统
大模型从入门到应用——LangChain：记忆（Memory）-[记忆的存储与应用]
冯·诺依曼
08-15 5370
Zep 是一个存储、摘要、嵌入、索引和丰富对话式人工智能聊天历史记录的工具，并通过简单、低延迟的API进行访问。[3] LangChain中文网 - LangChain 是一个用于开发由语言模型驱动的应用程序的框架：http://www.cnlangchain.com/[2] LangChain 🦜️🔗 中文网，跟着LangChain一起学LLM/GPT开发：https://www.langchain.com.cn/[1] LangChain官方网站：https://www.langchain.com/
用AIDA模型，分析知乎、小红书和Facebook的广告效果.docx
06-02
用AIDA模型，分析知乎、小红书和Facebook的广告效果.docx
pd27.py1111111111111
最新发布
06-02
pd27.py1111111111111
234_基于微信小程序的车位预约系统的设计与实施-源码.zip
06-02
提供的源码资源涵盖了安卓应用、小程序、Python应用和Java应用等多个领域，每个领域都包含了丰富的实例和项目。这些源码都是基于各自平台的最新技术和标准编写，确保了在对应环境下能够无缝运行。同时，源码中配备了详细的注释和文档，帮助用户快速理解代码结构和实现逻辑。 适用人群： 这些源码资源特别适合大学生群体。无论你是计算机相关专业的学生，还是对其他领域编程感兴趣的学生，这些资源都能为你提供宝贵的学习和实践机会。通过学习和运行这些源码，你可以掌握各平台开发的基础知识，提升编程能力和项目实战经验。 使用场景及目标： 在学习阶段，你可以利用这些源码资源进行课程实践、课外项目或毕业设计。通过分析和运行源码，你将深入了解各平台开发的技术细节和最佳实践，逐步培养起自己的项目开发和问题解决能力。此外，在求职或创业过程中，具备跨平台开发能力的大学生将更具竞争力。 其他说明： 为了确保源码资源的可运行性和易用性，特别注意了以下几点：首先，每份源码都提供了详细的运行环境和依赖说明，确保用户能够轻松搭建起开发环境；其次，源码中的注释和文档都非常完善，方便用户快速上手和理解代码；最后，我会定期更新这些源码资源，以适应各平台技术的最新发展和市场需求。
蓝桥杯蓝桥杯蓝桥杯蓝桥杯蓝桥杯蓝桥杯蓝桥杯.txt
06-02
蓝桥杯蓝桥杯蓝桥杯蓝桥杯蓝桥杯蓝桥杯
ipython-0.13.1-py2.7.egg
06-01
Python库是一组预先编写的代码模块，旨在帮助开发者实现特定的编程任务，无需从零开始编写代码。这些库可以包括各种功能，如数学运算、文件操作、数据分析和网络编程等。Python社区提供了大量的第三方库，如NumPy、Pandas和Requests，极大地丰富了Python的应用领域，从数据科学到Web开发。Python库的丰富性是Python成为最受欢迎的编程语言之一的关键原因之一。这些库不仅为初学者提供了快速入门的途径，而且为经验丰富的开发者提供了强大的工具，以高效率、高质量地完成复杂任务。例如，Matplotlib和Seaborn库在数据可视化领域内非常受欢迎，它们提供了广泛的工具和技术，可以创建高度定制化的图表和图形，帮助数据科学家和分析师在数据探索和结果展示中更有效地传达信息。
基于知识库和LLM模型的校园语音问答系统国内外研究现状
05-31
校园语音问答系统是目前研究的热点之一，国内外也有很多相关的研究。其中，基于知识库和LLM模型的校园语音问答系统是比较新颖的一种方法。 国内方面，目前已经有一些研究在这方面进行探索。例如，南京大学的研究者们提出了一种基于知识库和语言模型的校园问答系统，通过构建校园知识库和优化语言模型，实现了精准的校园问答效果。此外，北京邮电大学的研究者们也提出了一种基于问答对齐的校园问答系统，将问答对齐与知识图谱相结合，提升了系统的准确性和效率。 国外方面，也有一些研究者在这方面进行了探索。例如，美国康奈尔大学的研究者们提出了一种基于知识库和深度学习的问答系统，通过构建知识库和训练深度学习模型，实现了在校园环境下的智能问答。此外，英国剑桥大学的研究者们也提出了一种基于语义解析和自然语言生成的校园问答系统，通过深度学习和自然语言处理技术，实现了智能问答和语音交互。 总的来说，基于知识库和LLM模型的校园语音问答系统是一个比较新颖的研究方向，国内外都有一些相关的研究成果。这些研究成果都为校园问答系统的发展提供了参考和借鉴，未来这方面的研究还有很大的发展空间。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值