搭建 RAG 系统的技巧和策略

【导读】 RAG（Retrieval-Augmented Generation）是一种结合检索和生成的混合系统，在当前大模型的实际应用中具有重要意义。以下是我在之前分享的一些RAG搭建技巧和策略，供大家学习和参考。由于实验是在企业数据上进行验证的，因此不展示具体数据，仅进行技巧上的探讨。

RAG优势

通过结合检索和生成的优势，RAG显著提高了LLM答案的准确性、相关性和可解释性，并减少了幻觉现象。尽管LLM在处理长文本方面的能力不断增强，但在短期内，RAG的优势依然不可替代。

RAG框架流程

可以大致概括为4个部分：1）文档切分入库；2）问题处理；3）召回；4）大模型生成。

RAG文档切分入库

切分入库是RAG文档解析的第一步，通常可以使用现成的Python工具来实现，LangChain也提供了相关集成。对于多模态数据，可以采用OCR或VLLM等技术来解析其中的有效信息。

知识切分

文档切分是一个非常重要的环节，它直接关系到片段召回的完整性和生成质量。根据文档类型的不同，切分策略也有所不同。以下介绍了针对四种情况的不同切分方式。

多级索引

通常情况下，片段可以直接入库。然而，如果基于这些片段构建摘要和查询的索引，并将其链接回原始片段，可以显著增强检索效果。

问题处理

对于问题的处理通常容易被忽视，但实际上这一部分有许多可以尝试的改进点。通过优化问题处理，不仅可以提升整个系统的健壮性，还能显著改善用户体验。

召回排序模块

这一部分是RAG的核心模块，通常采用向量粗排和重排序（reranker）精排的策略。可以根据具体业务需求设计多种召回策略，充分利用知识库自带的信息。总之，召回模块应尽可能实现对知识的全面召回。

大模型生成

大模型生成部分的关键在于模型的选择和微调。在调试提示词（prompt）时，可以根据业务的复杂性进行多种尝试。如果是推理型问题，可以在提示词中增加思维链；如果涉及计算题，可以要求模型生成公式或代码，再计算结果。

​

如何学习AI大模型？

作为一名热心肠的互联网老兵，我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

一、全套AGI大模型学习路线

AI大模型时代的学习之旅：从基础到前沿，掌握人工智能的核心技能！

二、640套AI大模型报告合集

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

四、AI大模型商业化落地方案

作为普通人，入局大模型时代需要持续学习和实践，不断提高自己的技能和认知水平，同时也需要有责任感和伦理意识，为人工智能的健康发展贡献力量。