一文学会基于LangChain开发大模型RAG知识问答应用

最新推荐文章于 2025-05-09 16:30:00 发布

Python_金钱豹

最新推荐文章于 2025-05-09 16:30:00 发布

阅读量699

点赞数 6

文章标签： langchain 人工智能 transformer 数码相机深度学习 milvus

本文链接：https://blog.csdn.net/Python_cocola/article/details/147784682

版权

RAG全称是Retrieval-Augmented Generation，即检索增强生成。通俗来讲,就是在用户提的问题的基础上，引入相关资料信息，把“问题+相关资料” 一起给大模型，让大模型在参考资料的约束或提示下回答问题而不是随意发挥，从而期望大模型生成质量更高、更准确的答案，改善大模型”幻觉“、训练数据过时、知识范围有限等带来的负面问题。

在涉及到专业领域知识或企业内部知识的应用场景中，这项技术发挥着重要作用。相比于大模型微调，RAG时间成本、经济成本和技术难度都更低。

本期内容涉及到以下知识点：

1.使用LangChain调用DeekSeek-v3模型服务

2.设计提示词模板，包括系统提示词和用户提示词

3.加载知识库，具体来说是本地或在线文档

4.将知识库中的文档分割成chunks，即多个片段

5.使用阿里云百炼的text-embedding-v2模型做文本嵌入，然后将这些向量保存到向量数据库中，供之后检索使用，即indexing

6.使用BAAI/bge-reranker-large模型自定义LangChain的ReRank类,用于提升知识库检索结果的质量

7.设计输出解析器，LangChain中的输入输出一般不是简单的字符串，比如大模型输出的是AIMessage对象，我们需要将结果格式化为目标形式

8.构建LCEL链，chain是LangChain框架的核心特点

9.给链传入回调函数，用于在链运行时获取状态信息或执行业务逻辑等

LangChain对各种功能进行了封装，所以上述的内容虽然很多，但实际代码量却比较少。

代码基于当前LangChain的最新版本v0.3

向观智能公众号发送文件码 7330 即可获取本文相关文件

Python库版本信息如下，使用pip默认安装最新版本即可：

本期内容采用递进的方式展开。

大模型调用

LangChain可以接入本地模型和云服务模型，模型来源有OpenAI、DeepSeek、Anthropic、Hugging Face等等，可调用的模型十分丰富。

比如可以在DeepSeek开放平台上获取我们的API Key，用它来请求DeepSeek-v3的推理服务：(link=>https://platform.deepseek.com/)

这里在自定义的函数env_settings()中设置了DeepSeek的API Key和服务地址两个环境变量，DeepSeek采用了和OpenAI相同的环境变量名称与调用方式：

提示词模板

在LangChain中提示词模板推荐用ChatPromptTemplate。from_messages从消息对象模板构造整个提示词模板，每个元组的第一个元素代表消息对象模板类，第二个元素是该消息的提示词模板：

如上面的system和user分别代表对应的SystemMessageTemplate和用户消息模板HumanMessageTemplate，用字符串比传入实例对象的代码要简洁。

下面看提示词的写法：

(“system”,“你是一个信息整理归纳助手，在回答用户的问题时，你需要参考上下文信息，结合用户的问题以及上下文信息，你归纳出简练、准确的答案，简练是指不要加入与问题的答案无关的语言，准确是指答案要严格与上下文保持一致。请注意，如果上下文的内容为空，那么你就返回”在资料中没有相关信息“这句话，而不要自己生成答案。上下文的信息如下：{context}”)

(“user”,“{question}”)

system即系统提示词部分主要用来提供上下文信息，其中的context是占位符，后面用从知识库中检索到的与question相近的内容填充，作为对用户问题的补充说明。

用户的问题将用来填充question占位符。

文档加载、分割与向量存储

这一部分是做信息的索引(indexing)

langchain_community.document_loaders中提供了各种文档加载器，如PDF、MarkDown、HTML、网络链接、txt等等。

任何类型的文档被加载后都成为Document对象，该对象的page_content字段保存文档内容，元信息字段保存文档的附加信息，比如位置。

加载得到的文档对象一般需要分割，原因有多种，比如文档太长模型无法处理、无法用向量表征语义等。

加载器推荐使用代码示例中的，chunk_size是指每块的最大字符长度；chunk_overlop是相邻块的重叠字符数，很简单，这样做是为了减少语义不完整的情况；separator是分割的依据：遇到双换行就分割，没有的话遇到换行就分割，以此类推。

分割后的文档变成了多个块，每个块依然是一个Document对象，其中page_content就是该块包含的内容，元信息则和它源自的那个文档保持一致，有的提高检索质量的算法会用到这个元信息。

接下来是做文本嵌入和词向量保存：

和大语言模型一样，LangChain也集成了OpenAI、Hugging Face等多种嵌入模型。这里用的是阿里云百炼的DashScopeEmbeddings接口，申请API Key即可调用(link=>https://bailian.console.aliyun.com/)

同样，LangChain集成了众多的向量数据库，如Chroma、Milvus、FAISS等。通过传入分割后的chunks列表以及嵌入模型对象，创建向量数据库。这里FAISS也支持将数据持久化到本地。

然后使用RunnableLambda类来包装向量数据库的相似度检索函数，将其变成Runnable对象，从而能够参与构建链。

ReRank重排

LangChain提供了丰富的解决方案来用于提高RAG中向量检索结果的质量，比如混合检索、多检索器检索、压缩上下文(ReRank也属于此种)等等。这里我们使用ReRank模型对向量检索的结果进行重排。

在Hugging Face上，北京智源人工智能研究院BAAI的bge-reranker-large是下载量最高的，中文语境效果很好。

我们将使用这个模型做ReRank。需要安装FlagEmbedding库，创建rerank对象(第一次运行自动从网络下载到默认缓存位置)：

在LangChain中ReRank也属于文本压缩器compressor中的一员。我们需要自定义一个LangChain的Compressor类，继承BaseDocumentCompressor并实现compress_document方法：

上述代码非常简单，similarity_compute函数调用了上述创建的开源rerank模型对象，来计算用户问题和上阶段检索出来的文本的相似度，然后在compress_document中叫仅仅是使用Python内建的sorted函数对检索出来的文本根据相似度得分从大到小排序，最终返回最相似的前两个。

然后把检索加重排的逻辑利用ContextualCompressRetriever整合起来，即将rerank对象和上面得到的向量检索器作为参数传入，该类在只是在内部依次调用它们做了向量检索和重排而已：

构建链

用户输入问题，然后检索得到相似上下文，此时问题和检索到上下文将被同时传入提示词模板来生成提示词，所以我们需要一个并行的组件RunnableParallel，以及一个将问题也变成Runnable对象的组件RunablePassthroug****h (Runnable对象才能用来构建链)，前者是可以同时运行两个Runable对象，后者是将信息包装成Runanble对象并原封不动的地输出 (ps:正如很多人吐槽的那样，LangChain大量的封装逻辑往往也会引起学习或使用者理解上的困难)

上面第二行代码则是将整个流程中的Runnable对象组成了一个链，链本身也是Runnable。

添加回调

可以在运行时添加自定义回调，这需要继承BaseCallbackHandler，这里我简单地实现了on_chat_model_start函数，它用于在调用大模型推理时的回调：

最后就可以运行我们的问答应用了：

链的最后是一个输出解析器，用来将大模型的回答格式化。

输出解析器

LangChain中的消息都用消息对象封装，比如大模型输出的是AIMessage对象。所以我们需要把结果结构化成我们期望的格式，比如框架自带的StrOutputParser就是提取模型输出对象中content信息。

通过继承解析器基类BaseOutputParser，重写parse方法，自定义输出形式：

效果测试

测试文档中有一些人物的介绍信息，我希望通过大模型帮我快速总结关键信息，而不用自己阅读完整文档，在提示词中已经限制大模型要用简练的语言回答，并且文档中不存在的人物就按约定的内容回答不知道，下面看一下模型效果：

问：林悦喜欢吃什么

答：

根据您的问题，我找到的相关答案是:

林悦喜欢吃火锅，尤其是涮毛肚和鸭肠，蘸香油蒜泥调料。她还喜欢各种川味小吃，如钟水饺和龙抄手，以及一些清淡的川菜，如开水白菜。

^^_^{感谢您的咨询}^_^

问：诸葛亮喜欢吃什么

答：

根据您的问题，我找到的相关答案是:

在资料中没有相关信息。

^^_^{感谢您的咨询}^_^

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述