1 概述
本文是本系列(使用RAG技术构建企业级文档问答系统)的第二篇,将介绍检索增强生成(Retrieval Augmented Generation,简称RAG)最基础流程。
所谓检索增强生成,是大语言模型兴起之后发展迅速的一个应用领域,简单说就是,这项技术,可以根据用户输入的问题,从文档(如PDF、Word、PPT、TXT、网页等)中自动检索跟问题相关的文本片段(或称为知识片段、上下文),然后将一段指令、用户输入的问题、文本片段拼装成一个Prompt(也就是大语言模型的输入),让大语言模型生成一个回答。
在ChatGPT最初发布的时候,回答问题主要还是依赖ChatGPT训练时的知识,由此导致了三个显著问题:
- 知识陈旧:也就是新发生的事情,它是没办法回答的
- 幻觉:也就是编造与事实不符的回答
- 没有办法让ChatGPT基于自己独有的,如个人积累的或者企业内部积累的知识文档回答问题,只能基于已经公开的信息回答
根据RAG所检索对象的不同,大致可以分成2类,但底层的技术其实是高度相似的:
-
知识库问答:主要是检索企业内部一系列文档,比如Word、PDF、Wiki、Confluence等,或者企业自建的知识管理平台。很多企业其实积累了非常多的内部文档,传统方式只能使用关键词,或者特定类目检索,效率低下,使用RAG后可以高效快速地直接返回答案,当然这个地方也有它自己的坑,先按下不表,后面有机会再细谈
-
联网搜索问答:这个主要是检索整个互联网,最典型代表就是Perplexity,国内的典型产品像秘塔AI搜索、天工AI、360AI搜索等,其实也是检索文档,但会首先借助搜索引擎API,获取一个网页列表,然后再对每个网页执行加载、切分、向量化操作。
上面反复提到了知识库,在RAG的流程中,知识库会经历下面4个步骤处理,如下图所示: -
加载:可以简单理解成把文档读取成字符串
-
切分:按照特定长度,把文档切分成文本片段,做这一步是因为,后面要使用向量模型将切分后的文本片段(其实就是段落或者句子)转换成向量,由于向量模型输入长度限制,所以这一步必须按照特定长度切分
-
向量化:这一步会使用一个向量模型,将一个句子转换成一个向量,跟word2vec模型其实不是一个东西,word2vec模型是把一个字符或者一个词,转换成一个向量,而在RAG中说的向量模型,是把句子转换成向量,这样后续就可以使用向量计算,来比较句子之间的相似性,所谓RAG中的检索,很大程度是依赖向量,所以这块很重要
-
向量存储:这一步一般会使用向量库存储向量化好的文本片段,以及一些元数据信息,如文件名、ID之类的,向量库是类似MySQL、PostgreSQL一样的一个数据库,只不过它专注于存储向量,典型的有Milvus、FAISS、Chroma、Qdrant、Pinecone、Weatiate、PGVector等
(https://python.langchain.com/v0.2/docs/tutorials/rag/)
知识库处理好,保存到向量库之后,当用户提问时,会将用户问题也进行向量化,然后拿用户问题向量,去向量库中,使用余弦相似度(只是原理,后续后再详细展开),检索到最相似的一些句子,然后将用户问题、检索到的相似句子,一同组成一个Prompt,输入大模型,生成答案,如下图所示:
(https://python.langchain.com/v0.2/docs/tutorials/rag/)
下面将构建这个完整流程。
本文代码已经开源,地址在:https://github.com/Steven-Luo/MasteringRAG/blob/main/01_baseline.ipynb
2 环境准备
其余部分主要分3步:
- 安装Python包
- 准备Ollama,安装好Ollama之后,使用
ollama pull qwen2:7b-instruct
下载模型 - 下载向量模型
BAAI/bge-large-zh-v1.5
,这步可选,也可以在执行代码时自动下载,但需要确保能够访问到HuggingFace
上面的模型,都可以在本地运行,建议至少预留8GB的内存。
代码在Google Colab环境下进行了测试,正常情况下,安装Anaconda基本上会包含大部分所用到的包,再安装如下包即可:
pip install -U langchain langchain_community pypdf sentence_transformers chromadb
所安装包的版本
加载数据集,包含问题、回答、所使用的文档片段,因此,使用这个数据集,可以对检索、生成效果进行测试
qa_df = pd.read_excel(os.path.join(output_dir, 'question_answer.xlsx'))
3 文档处理
3.1 文档加载
此处使用PyPDF这个库进行加载,处理PDF的库还有很多,后面会专门出一篇文章进行介绍。
3.2 文档切分
在企业内部,一般知识库会比较庞大,每次都重新切分会比较耗时,因此,对切分后的文档片段也可以保存,方便下次再加载
3.3 向量化
加载向量模型
将文档向量化,并使用Chroma持久化
跟上方的文档切分类似,企业知识库通常会比较庞大,如果每次都重新向量化,会非常耗时,因此,可以将向量化后的文档片段持久化
vector_db = get_vector_db(splitted_docs, store_path=os.path.join(output_dir, 'chromadb', 'bge_large_v1.5'))
4 检索
Langchain提供了比较方便的API,使用下方的函数即可完成检索
为了方便后续对文档问答效果进行优化,此处对中间环节——检索,进行评估。
注意,一般这一步评估也是比较麻烦的,因为文档问答,答案来源于文档片段,如果回答错误,不能说明检索一定错误,反过来,如果答案正确,那么在检索环节,只要正确回答的文本“来自”所检索的文档片段,就应该算检索正确,但具体回答是否“来自”文档片段时,有技术上的问题,具体来说,有以下几点:
- 不能直接拿字符串匹配,因为生成的答案经过了大模型的加工,不能保整与检索的文档片段中的文字一字不差
- 使用向量模型,将两者转换成向量,计算向量相似度,但这样面临卡阈值的问题,到底阈值多少算是答案参考了知识片段
- 使用字符串模糊匹配的方式,也有跟计算向量相似度类似的卡阈值问题
- 最终答案可能来源于原本相连的段落,但由于文档切分,将整个段落切分到了两个文档片段,这样虽然可能最后回答正确,但单独拿出每一个片段来,跟答案的相似度可能都不高
后面会出一篇专门的文章,专门介绍文档问答的检索、回答的性能。
回到本文,由于在构造“问题-回答”对时,特意记录了所使用的文档片段,这样就可以直接用这个文档片段的UUID计算,避免了上面的问题。
具体到检索的性能,一般使用HitRate进行评估,其中N为测试集总数,第条数据检索命中时为1,否则为0。
由于知识片段本身的相似性比较高,因此,只检索一条一般是没法回答问题的。一般会检索Top-K个知识片段。具体到指标计算,就是对于每一条测试数据,检索个知识片段,只要有一个检索命中,那
就为1,否则为0。
下面是Top1~Top8的HitRate计算:
question | top_k | hit | |
---|---|---|---|
489 | 美元的走势如何变化? | 2 | 1 |
682 | 美联储加息对美国房地产市场风险排名产生了什么影响? | 3 | 0 |
344 | 预计2023年欧元区的经济增速大概是多少? | 1 | 0 |
230 | 2023年前8个月全球货物贸易量指数的变化情况如何? | 7 | 1 |
444 | 美联储在2月1日的基点变动了多少? | 5 | 1 |
检索HitRate计算
sns.barplot(x='top_k', y='hit', data=hit_stat_df.groupby('top_k')['hit'].mean().reset_index())
大家可以稍微留意一下这个指标,后续会陆续对检索进行优化,大家到时可以直观地观察到检索性能的提升。
5 问答
下面就是综合向量库、检索的完整问答流程了。
5.1 使用LCEL
这一步演示如何使用Langchain Expression Language,这种方式整个代码会相对简洁,但如果对流程不熟悉,遇到bug不好调试。
5.1.1 流式输出
输出
2023年10月美国ISM制造业PMI指数较上个月大幅下降2.3个百分点。
5.1.2 非流式输出
print(rag_chain.invoke('2023年10月美国ISM制造业PMI指数较上月有何变化?'))
输出
2023年10月美国ISM制造业PMI指数较上个月大幅下降2.3个百分点。
5.2 流程拆解
下面对整个过程,拆解成常规的Python代码:
如何学习大模型 AI ?
由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。
但是具体到个人,只能说是:
“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。
这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
第一阶段(10天):初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么?
- 大模型是怎样获得「智能」的?
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例:向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段(30天):高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示(Embeddings)
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段(30天):模型训练
恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。
到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2:手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段(20天):商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身:基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例:如何优雅地在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- …
学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。
如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。
这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费
】
本文转自 https://blog.csdn.net/python122_/article/details/141183381,如有侵权,请联系删除。