使用LangChain简单搭建自己的RAG知识库

最新推荐文章于 2025-04-05 22:22:50 发布
最新推荐文章于 2025-04-05 22:22:50 发布
阅读量1k 收藏 26
点赞数 11
文章标签： langchain 人工智能 llama factory LLM RAG 知识库
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/2401_82469710/article/details/143305211
版权

背景

本人日常工作需要对接各种第三方合作方，对接过程中的文档繁多、沟通不及时、问题排查繁琐以及工作具有重复性等问题愈发明显。合作方遇到对接问题需要提工单经门户网站–>产品部门接口人–>开发人员问题排查/修复–>产品部门接口人–>合作方收到回复，这种模式联调、验收流程较长。

考虑到前期对接过程中积累的问题日志、对接规范、指导手册、接口文档，如何让开发、产品、运营以及合作方有效利用这些知识？首先就想到了大模型，它具有强大的自然语言理解和文档整理能力，但其缺少对接流程的垂类领域知识？于是想到了RAG（检索增强生成技术）给两者建立了桥梁！

1. RAG技术介绍

RAG (Retrieval-Augmented Generation) 是一种结合了检索和生成的混合式深度学习模型，常用于处理复杂的自然语言处理任务。RAG模型通过将外部知识库中的信息与生成模型结合在一起，可以提供更准确和上下文相关的答案。具体来说，RAG由两个部分组成：

  1. 检索模块：负责从预先建立的知识库中检索与输入问题最相关的文档或信息片段。这通常通过向量检索技术实现，向量检索能够支持语义匹配，而不仅仅是关键词匹配，从而提高了检索的准确性。
  2. 生成模块：接收检索到的内容并生成最终的自然语言响应。这个模块通常基于大型生成模型（如 GPT-4），能够理解和生成复杂的自然语言。

这种技术的优势在于它能够利用海量的外部数据进行知识补充，从而提升回答的质量和准确性。这在动态性强、知识库更新频繁的场景中尤为重要。

在这里插入图片描述

2. RAG搭建常见流程

在实际应用中，搭建一个基于 RAG 的知识库通常包括以下几个步骤：

  1. 文档加载，并按一定条件切割成片段；
  2. 将切割的文本片段灌入向量数据库；
  3. 封装检索接口；
  4. 构建调用流程：Query -> 检索 -> Prompt -> LLM -> 回复。

3. 编码实现

下面用极少的代码快速搭建一个RAG系统，包括服务端和web界面，仅用于demo展示，生成级的 RAG 系统要复杂的多的多。

项目结构

在这里插入图片描述

核心代码

如果纯自己编码实现 RAG，小一千行代码是要的，这里只能借助成熟的大模型开发框架来简化开发过程，把重心放到流程上去，本例使用了 LangChain，关键代码给出注释，可自己咨询大模型进行理解和改进。

LangChain：一套在大模型能力上封装的工具框架（SDK），它为开发者提供了一系列工具和组件，以简化语言模型在复杂任务中的集成和应用，尤其是涉及到多步骤的流程和需要结合外部数据源的场景。

import uvicorn
from fastapi import FastAPI, HTTPException
from pydantic import BaseModel
from langchain.chains import RetrievalQA
from langchain_openai import ChatOpenAI
from langchain_community.vectorstores import FAISS
from langchain_openai import OpenAIEmbeddings
from dotenv import load_dotenv, find_dotenv
from langchain_community.document_loaders import TextLoader
from langchain_text_splitters import RecursiveCharacterTextSplitter
from langchain.prompts import ChatPromptTemplate
from starlette.middleware.cors import CORSMiddleware
​
# 加载环境变量，读取本地 .env 文件，里面定义了 OPENAI_API_KEY
_ = load_dotenv(find_dotenv())
​
# llm
llm = ChatOpenAI(model="gpt-4o-mini", temperature=0)
​
# 加载文档,可换成PDF、txt、doc等其他格式文档
loader = TextLoader('../docs/解答手册.md', encoding='utf-8')
documents = loader.load()
text_splitter = RecursiveCharacterTextSplitter.from_language(language="markdown", chunk_size=200, chunk_overlap=0)
texts = text_splitter.create_documents(
    [documents[0].page_content]
)
​
# 选择向量模型，并灌库
db = FAISS.from_documents(texts, OpenAIEmbeddings(model="text-embedding-ada-002"))
# 获取检索器，选择 top-2 相关的检索结果
retriever = db.as_retriever(search_kwargs={"k": 2})
​
# 创建带有 system 消息的模板
prompt_template = ChatPromptTemplate.from_messages([
    ("system", """你是一个对接问题排查机器人。
               你的任务是根据下述给定的已知信息回答用户问题。
               确保你的回复完全依据下述已知信息。不要编造答案。
               请用中文回答用户问题。
               
               已知信息:
               {context} """),
    ("user", "{question}")
])
​
# 自定义的提示词参数
chain_type_kwargs = {
    "prompt": prompt_template,
}
​
# 定义RetrievalQA链
qa_chain = RetrievalQA.from_chain_type(
    llm=llm,
    chain_type="stuff",  # 使用stuff模式将上下文拼接到提示词中
    chain_type_kwargs=chain_type_kwargs,
    retriever=retriever
)
​
# 构建 FastAPI 应用，提供服务
app = FastAPI()
​
# 可选，前端报CORS时
app.add_middleware(
    CORSMiddleware,
    allow_origins=['*'],
    allow_credentials=True,
    allow_methods=['*'],
    allow_headers=['*'],
)
​
​
# 定义请求模型
class QuestionRequest(BaseModel):
    question: str
​
​
# 定义响应模型
class AnswerResponse(BaseModel):
    answer: str
​
    
# 提供查询接口 http://127.0.0.1:8000/ask
@app.post("/ask", response_model=AnswerResponse)
async def ask_question(request: QuestionRequest):
    try:
        # 获取用户问题
        user_question = request.question
        print(user_question)
​
        # 通过RAG链生成回答
        answer = qa_chain.run(user_question)
​
        # 返回答案
        answer = AnswerResponse(answer=answer)
        print(answer)
        return answer
    except Exception as e:
        raise HTTPException(status_code=500, detail=str(e))
​
​
if __name__ == "__main__":
    uvicorn.run(app, host="0.0.0.0", port=8000)

运行环境

代码采用 python3.11 版本运行，并安装了如下依赖：

# pip install -r requirements.txt
fastapi==0.112.1
langchain==0.2.14
langchain_community==0.2.12
langchain_openai==0.1.22
langchain_text_splitters==0.2.2
pydantic==2.8.2
python-dotenv==1.0.1
Requests==2.32.3
starlette==0.38.2
uvicorn==0.30.6

QA准备

按照自己熟悉的文档组织方式组织QA，并按照业务需求选择是将Q向量化，还是将QA一起向量化，本例采用如下格式组织QA，并且QA一起向量化。

### xx接口不通怎么办
请首先确认接口地址以及鉴权参数，可找coderjia进行排查

效果展示

简陋的客户端界面：

在这里插入图片描述

咨询知识库存在的知识：

在这里插入图片描述

咨询知识库不存在的知识：

在这里插入图片描述

4. 总结与优化点

以上只是搭建搭建基于RAG的知识库最基本的步骤，实际应用时，有几点优化建议：

  1. 知识库的动态更新：随着时间的推移，知识库中的信息可能会过时或无效，因此需要设计自动化的知识更新机制，以保证系统回答的准确性和时效性。
  2. 模型微调：在不同的应用场景中，可能需要对调用的模型进行选择，或者对提示词进行优化，来引导模型生成更符合预期的输出。
  3. 混合检索策略：可以结合向量检索与传统的关键词检索策略，在保证检索精度的同时，提高召回率。
  4. 系统可扩展性：确保系统能够随着数据量和请求量的增加而扩展，避免性能瓶颈。使用分布式检索和生成技术是实现这一目标的关键。
  5. 用户反馈循环：引入用户反馈机制，定期分析用户的查询和系统的响应，持续改进模型和知识库，提升整体系统的智能水平。

如何系统的去学习大模型LLM ？

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。

事实上，抢你饭碗的不是AI，而是会利用AI的人。

继科大讯飞、阿里、华为等巨头公司发布AI产品后，很多中小企业也陆续进场！超高年薪，挖掘AI大模型人才！ 如今大厂老板们，也更倾向于会AI的人，普通程序员，还有应对的机会吗？

与其焦虑……

不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！

但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高。

针对所有自学遇到困难的同学们，我帮大家系统梳理大模型学习脉络，将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

​

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点，那以下这些大模型书籍就是非常不错的学习资源。

在这里插入图片描述

二、640套LLM大模型报告合集

这套包含640份报告的合集，涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)

在这里插入图片描述

三、LLM大模型系列视频教程

在这里插入图片描述

四、LLM大模型开源教程（LLaLA/Meta/chatglm/chatgpt）

在这里插入图片描述

LLM大模型学习路线 ↓

阶段1：AI大模型时代的基础理解

  • 目标：了解AI大模型的基本概念、发展历程和核心原理。

  • 内容：

    • L1.1 人工智能简述与大模型起源
    • L1.2 大模型与通用人工智能
    • L1.3 GPT模型的发展历程
    • L1.4 模型工程
    • L1.4.1 知识大模型
    • L1.4.2 生产大模型
    • L1.4.3 模型工程方法论
    • L1.4.4 模型工程实践
    • L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

  • 目标：掌握AI大模型API的使用和开发，以及相关的编程技能。

  • 内容：

    • L2.1 API接口
    • L2.1.1 OpenAI API接口
    • L2.1.2 Python接口接入
    • L2.1.3 BOT工具类框架
    • L2.1.4 代码示例
    • L2.2 Prompt框架
    • L2.3 流水线工程
    • L2.4 总结与展望

阶段3：AI大模型应用架构实践

  • 目标：深入理解AI大模型的应用架构，并能够进行私有化部署。

  • 内容：

    • L3.1 Agent模型框架
    • L3.2 MetaGPT
    • L3.3 ChatGLM
    • L3.4 LLAMA
    • L3.5 其他大模型介绍

阶段4：AI大模型私有化部署

  • 目标：掌握多种AI大模型的私有化部署，包括多模态和特定领域模型。

  • 内容：

    • L4.1 模型私有化部署概述
    • L4.2 模型私有化部署的关键技术
    • L4.3 模型私有化部署的实施步骤
    • L4.4 模型私有化部署的应用场景

这份 LLM大模型资料 包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

​

LangChain知识库构建与RAG设计
Box_clf的博客
06-03 3473
#加载文档import os#总结文档#翻译一下文档#精炼文档，删除除了某个主题或关键词之外的内容，仅保留与主题相关的内容。
使用LangChain建立检索增强生成（RAG）系统
Code1994的博客
11-12 1442
AI大模型作为人工智能领域的重要技术突破，正成为推动各行各业创新和转型的关键力量。抓住AI大模型的风口，掌握AI大模型的知识和技能将变得越来越重要。学习AI大模型是一个系统的过程，需要从基础开始，逐步深入到更高级的技术。这里给大家精心整理了一份全面的AI大模型学习资源，包括：AI大模型全套学习路线图（从入门到实战）、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等，资料免费分享！
100行代码实现自己的RAG知识库
CoderJia的学习之路
08-19 1771
RAG是一种结合了检索和生成的混合式深度学习模型，常用于处理复杂的自然语言处理任务。RAG模型通过将外部知识库中的信息与生成模型结合在一起，可以提供更准确和上下文相关的答案。检索模块：负责从预先建立的知识库中检索与输入问题最相关的文档或信息片段。这通常通过向量检索技术实现，向量检索能够支持语义匹配，而不仅仅是关键词匹配，从而提高了检索的准确性。生成模块：接收检索到的内容并生成最终的自然语言响应。这个模块通常基于大型生成模型（如 GPT-4），能够理解和生成复杂的自然语言。
基于 LangChain 搭建简单 RAG 系统
--
04-04 592
最后我们需要整合检索与生成，这里可以使用LangChain表达式语言（LangChain Execution Language，LCEL）来方便快捷地构建一个链，将检索到的文档、构建的输入 Prompt 以及模型的输出组合起来。随后是输入 Prompt 的设置，LangChain 的 Prompt Hub 中提供了多种预设的 Prompt 模板，适用于不同的任务和场景。构建好知识源后，接下来开始构建基础 RAG 系统。加载完成后，由于加载的文档可能过长，不适合模型的上下文窗口，需要将文档分割成合适的大小。
使用langchain搭建本地知识库系统(新)
2401_82469710的博客
03-08 3892
使用langchain搭建本地知识库系统(新)
【快速上手】用LangChain轻松搭建专属RAG知识库，一步到位！
2401_84494441的博客
12-23 1119
是一种结合了检索和生成的混合式深度学习模型，常用于处理复杂的自然语言处理任务。RAG模型通过将外部知识库中的信息与生成模型结合在一起，可以提供更准确和上下文相关的答案。检索模块：负责从预先建立的知识库中检索与输入问题最相关的文档或信息片段。这通常通过向量检索技术实现，向量检索能够支持语义匹配，而不仅仅是关键词匹配，从而提高了检索的准确性。生成模块：接收检索到的内容并生成最终的自然语言响应。这个模块通常基于大型生成模型（如 GPT-4），能够理解和生成复杂的自然语言。
用langchain+streamlit应用RAG实现个人知识库助手搭建
fengjiandaxia的博客
10-03 1824
我搭建的是一个Prompt技术的AI学习助手（基于自己搭建的和Prompt技术有关的文章与书籍）。学习写Prompt需要一边写一边实践，否则就会“脑子说我会了，手说我废了”。平时看到好的Prompt，也会把它积累下来，也许哪天就能用上；在实践的时候，随着不断地修改，Prompt也会更新迭代；
手把手教学：SpringBoot整合LangChain4j实现知识库RAG检索
最新发布
独孤求梦
04-05 1482
检索增强生成（Retrieval-augmented Generation）‌1. 基础大模型的局限性‌‌知识时效性差‌：依赖公开数据训练，存在周期性更新延迟，难以覆盖快速变化领域（如科技、金融）的新概念或实时信息。‌业务适配不足‌：无法直接访问企业内部分散的非结构化数据（如文本、Word、HTML、数据库等），导致对特定业务场景的理解受限。‌2. 传统方案（函数调用/系统消息）的瓶颈‌‌信息承载有限‌：仅能处理少量简单查询，无法支持大规模业务知识的整合与调用。‌3. RAG的核心价值‌‌。
LangChain实战：RAG检索增强-打造属于你自己的知识库
Watermaleon的博客
06-10 796
通过RAG检索增强打造属于你自己的知识库，让大模型也懂你的业务，成为你的专属AI
使用langchain搭建本地知识库系统(新)_
程序员小麦的博客
07-12 1154
RAG是的缩写，翻译为中文的意思就检索增强，以基于最新，最准确的数据建立LLM的语料知识库。LLMLangChain是一个用于开发由语言模型驱动的应用程序的框架。具有上下文感知能力：将语言模型与上下文源（提示说明、少量镜头示例、基于其响应的内容等）联系起来。原因：依靠语言模型进行推理（关于如何根据提供的上下文回答，采取什么行动等）pyimport osos.environ["QIANFAN_AK"] = "" # 这里需要修改为自己的实际值。
从零开始学 langchain 之搭建最小的 RAG 系统
AAI666666的博客
04-22 2651
RAG 可以说是 23 年以来到现在，最为火热的大模型应用技术了，很多人都有了很多经典的研究。而对于新人来说，有些代码十分复杂，导致只看表象并不理解其原理。今天，就利用 langchain 和大家一起搭建一个最简单的 RAG 系统，一起来学习一下吧。
基于LangChain构建RAG应用
2401_84204207的博客
07-10 2260
Hello，大家好，我是GISer Liu😁，一名热爱AI技术的GIS开发者，上一篇文章中我们详细介绍了RAG的核心思想以及搭建向量数据库的完整过程；😲将LLM接入LangChain：选择LLM，然后在LangChain中使用；构建检索问答链：使用语法构建RAG问答链部署知识库助手：使用streamlit部署项目；帮助读者快速构建RAG应用并部署在阿里云服务器上；Streamlit是一个开源的 Python 库，它使得数据科学家和开发者能够快速构建和共享美观的机器学习模型和数据应用程序。
langchain框架轻松实现本地RAG
qyhua的专栏
07-04 2583
RAG（Retrieval-Augmented Generation）是一种结合了检索和生成模型的方法，主要用于解决序列到序列的任务，如问答、对话系统、文本摘要等。它的核心思想是通过从大量文档中检索相关信息，然后利用这些信息来增强生成模型的输出。
基于LangChain4j调用火山引擎DeepSeek R1搭建RAG知识库实战指南
qq_36944952的博客
02-26 2615
随着大语言模型（LLM）的普及，如何结合企业私有知识库提升模型输出的准确性和专业性成为关键挑战。**检索增强生成（Retrieval-Augmented Generation, RAG）** 技术通过将外部知识库与生成模型结合，有效解决模型幻觉和时效性问题。本文将基于 **LangChain4j**（Java版LangChain框架）与火山引擎的 **DeepSeek R1** 模型，手把手搭建一个RAG知识库系统，并提供完整代码实现步骤。
基于LangChain搭建个人知识库
极限突破者的博客
06-25 1363
😺Hello，大家好，我是GISer Liu，😀😀 一名热爱AI技术的GIS开发者；在上一篇文章中，我们学习了LLM API的申请、应用以及提示词工程；在本文中，作者将介绍如何从零开始构建个人知识库🎉🤓；词向量和向量数据库概念申请Embedding Model API使用LangChain工具对文本数据进行处理基于文本数据搭建向量数据库并进行测试向量数据库是专门用于存储、索引和检索高维向量数据的数据库。它广泛应用于推荐系统、图像识别和语义搜索等领域。与传统的关系型数据库不同，向量数据库能够。
LangChain的RAG实践
2301_81940605的博客
04-12 2291
RAG技术将这两种记忆类型进行了整合，最终，在知识密集型的NLP任务上，比如QA，比单独使用上述两种类型的记忆获得了更好的效果。接下来将具体介绍RAG如何来补充LLM的一些短板，以及在两种记忆的具体体现，并使用LangChain来实现基本RAG流程。
langchain ollama 搭建rag
02-13
### 使用 LangChain 和 Ollama 构建 RAG 架构 #### 组件介绍 构建检索增强生成（RAG）系统涉及多个组件的协同工作。LangChain 提供了一系列工具和服务，使得这一过程更加简便。 - **LangChain 库**：作为 Python 和 JavaScript 的库，提供了多种接口和集成选项，允许创建复杂的链式处理逻辑[^1]。 - **LangServe**：该库支持将 LangChain 中定义的工作流轻松转换为 RESTful API 服务，便于与其他应用集成。 - **LangSmith 平台**：此平台专注于开发者的体验优化，提供调试、测试等功能，确保基于 LLM 框架的应用程序稳定可靠。 为了实现高效的文档检索功能，在上述基础上还需要引入 ChromaDB 或其他相似技术来存储并索引大量文本数据；而 Ollama 则负责利用预训练的语言模型完成最终的回答生成任务[^2]。 #### 实施步骤概述 以下是关于如何具体实施的一个简化版本： 安装必要的依赖项之后，首先初始化一个 LangChain 实例，并配置好连接到目标数据库的方式。接着设置查询管道，它会接收用户的输入请求并通过向量匹配算法找到最相关的几篇文档片段。最后一步是调用大型语言模型的服务端口传递上下文信息加上先前获取的知识摘要给定提示词从而得到完整的回复内容[^3]。 ```python from langchain import LangChain, DocumentRetriever, ModelAdapter import chromadb from ollama import LargeLanguageModelService # 初始化 LangChain 和 数据库客户端 lang_chain = LangChain() db_client = chromadb.Client() # 设置 文档检索器 和 大型语言模型适配器 doc_retriever = DocumentRetriever(db=db_client) model_adapter = ModelAdapter(llm_service=LargeLanguageModelService()) def rag_pipeline(user_query): # 获取相关文档片段 docs_snippets = doc_retriever.retrieve_documents(query=user_query) # 将用户问题连同检索到的信息一起发送至LLM进行回答生成 response = model_adapter.generate_response(context=" ".join(docs_snippets), prompt=user_query) return response ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值