检索增强生成 Retrieval-Augmented Generation

最新推荐文章于 2024-09-17 23:15:58 发布

yxiaoyu__

最新推荐文章于 2024-09-17 23:15:58 发布

阅读量343

点赞数 3

文章标签： python 人工智能深度学习大模型

本文链接：https://blog.csdn.net/yXIAOyu_/article/details/141126525

版权

LLM 优化方向

1. 模型微调（Fine-Tuning）

采用预训练的LLM并在较小的特定数据集上进一步训练它以使其适应特定任务或提高其性能的过程。通过调优，我们根据数据调整模型的权重，使其更适合应用程序的独特需求。

微调方法：监督指令微调SFT、基于人类偏好的强化学习RLHF等，需要消耗大量的资源，并且需要相当长的时间，知识更新迭代慢。

2. 检索增强生成（RAG）

将检索(或搜索)的能力集成到LLM文本生成中。结合了检索系统(从大型语料库中获取相关文档片段)和LLM(使用这些片段中的信息生成答案)。本质上，RAG帮助模型“查找”外部信息以改进LLM的响应。

成本低，改善效果明显，知识迭代快。检索步骤作为事实检查机制，降低了模型虚构的能力，生成器被限制为合成检索上下文支持的响应，可以很有效的抑制幻觉。

具有很好的可解释性，微调就像是一个黑盒，每次输出都有太多不确定性，RAG 可以看到检索的过程，增加结果的信任感。

数据安全性，可以将领域内的知识本地化部署，不需要联网。

两者的详细对比：

检索增强生成（RAG)

RAG本质上是通过工程化手段，解决LLM知识更新困难的问题。其核心手段是利用外挂于LLM的知识数据库（通常使用向量数据库）存储未在训练数据集中出现的新数据、领域数据等。通常而言，RAG将知识问答分成三个阶段：创建索引、知识检索和构造提示词问答。

1. 创建索引

数据提取：图片、pdf、word 等多格式数据加载、不同数据源获取，根据数据自身情况，将数据处理为文本格式。
分割文本：根据换行、句号、问号、感叹号等切分文本，以保证语义完整性和合适向量化 chunk 大小为原则。语料分割成 chunk 块，检索时会取相关性最高的top_n。实践证实，小块比大块对于提升准确率帮助更大，但也不是越小越好，512token 左右比较合适。由于每个 chunk 块之间关联性会被切断，可以通过在头尾增加一定冗余量来缓解。
向量化(embedding)：将文本数据转化为向量矩阵的过程，该过程会直接影响到后续检索的效果。常用的embedding模型：moka-ai/m3e-base、GanymedeNil/text2vec-large-chinese，也可以参考Hugging Face推出的嵌入模型排行榜 MTEB Leaderboard。
数据入库：数据向量化后构建索引，并写入向量数据库的过程可以概述为数据入库，适用于RAG场景的向量数据库包括：facebookresearch/faiss（本地）、Chroma、Elasticsearch、Milvus 等。

2. 知识检索

常见的数据检索方法包括：相似性检索、全文检索等。根据检索效果，一般可以选择多种检索方式融合，提升召回率。

相似性检索：即计算查询向量与所有存储向量的相似性得分，返回得分高的记录。常见的相似性计算方法包括：余弦相似性、欧氏距离、曼哈顿距离等。
全文检索：全文检索是一种比较经典的检索方式，在数据存入时，通过关键词构建倒排索引；在检索时，通过关键词进行全文检索，找到对应的记录。
Rerank：使用ElasticSearch的retrieval召回的内容相关度有问题，多数情况下score最高的chunk相关度没问题，但是top2-5的相关度就很随机了，这是最影响最终结果的。原因是es用的算法是基于HNSW（分层的最小世界导航算法）。举个例子，对于查询“最新上映的科幻电影推荐”，在首次检索阶段，系统可能基于关键词返回包括科幻电影的历史文章、科幻小说介绍、最新电影的新闻等结果。然后，在重排阶段，模型会对这些结果进行深入分析，并将最相关、最符合用户查询意图的结果（如最新上映的科幻电影列表、评论或推荐）排在前面，同时将那些关于科幻电影历史或不太相关的内容排在后面。这样，重排模型就能有效提升检索结果的相关性和准确性，更好地满足用户的需求。

3. 构造提示词

提示词都没有固定模板，下面是个示例，需要针对不同模型进行测试。理论来说，参数大的模型效果肯定更好，它的归纳总结能力更强。同时，也需要了解一些提示词工程技术，比如COT思维链等，辅助写出高效的提示词。

prompt_template = "
    【任务描述】
    请根据用户输入的上下文回答问题，并遵守回答要求。

    【背景知识】
    {context}

    【回答要求】
    - 你需要严格根据背景知识的内容回答，禁止根据常识和已知信息回答问题。
    - 对于不知道的信息，直接回答“未找到相关答案”
    -----------
    {question}
"

Prompt的设计只有方法，没有语法。

以上是理论介绍，目前开源的主流实现框架有：

LlamaIndex：是一个“数据框架”，它在 LLM 和外部数据源（如 API、PDF、SQL 等）之间提供一个简单的接口进行交互。提供独特的数据结构：向量存储索引、树索引、列表索引等等。
LangChain：旨在构建具备 LLM 强大功能的应用程序，管理整个应用的流程，提供各种工具和抽象，以提高大模型生成的信息的定制性、准确性和相关性。

问答效果不好，可以多研究一下LlamaIndex，希望使用更多外部工具或者构建复杂流程，可以多研究一下LangChain。