提升 RAG 模型准确性的八大策略

最新推荐文章于 2025-03-10 22:36:24 发布
最新推荐文章于 2025-03-10 22:36:24 发布
阅读量1.6k 收藏 30
点赞数 22
文章标签： 人工智能 自然语言处理 大语言模型 LLM RAG 大模型 Agent
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/2401_85378759/article/details/143629129
版权

RAG结合了生成式模型的语言理解能力和检索系统的内容回溯功能，是一种帮助解决复杂查询需求的有效方案。然而，要让 RAG 模型在实际场景中表现优异，还需要对其进行有针对性的优化。

本文介绍了八种提升 RAG 模型准确性和召回率的实用策略，希望对从事相关工作的朋友有所帮助。

1. 两阶段优化：召回和精度双向提升

在搜索查询的过程中，两阶段优化是一种非常有效的方式。首先，我们最大化召回率，即尽量多地获取与查询相关的内容；接下来，通过 Reranking 技术对这些内容重新排序，以优先展示最相关的结果。

效果：两阶段优化能够兼顾召回率和准确性。通过扩大检索范围并对结果进行精确排序，模型可以在各种场景中高效地回应复杂查询。例如，金融、医疗、法律等领域的复杂查询需求，往往需要确保不遗漏信息，同时保持高度相关性。

2. 微调与提示工程：提升模型表现

微调（Fine-tuning）和提示工程（Prompt Engineering）是提升模型表现的两个重要手段。微调是基于特定领域数据对模型进行再训练，使其对某些任务更加敏感，而提示工程则是通过设计有效的提示词，使模型更好地理解用户问题的意图。

效果：微调让模型对专业领域中的特定术语或知识点有更好的识别能力，提高了准确性。而通过提示工程精心设计的引导，模型能生成更符合预期的回答。这种方法适用于知识库查询、技术支持自动化等场景，尤其是在法律或医学等专业问答领域，能够大幅提高模型的响应质量。

3. 优化假设性问题：提升搜索质量

构建“假设性问题”是提高搜索准确性的另一重要策略。在这里，我们可以使用 HyDE（Hypothetical Document Embedding）方法生成假设性问题，帮助模型理解和搜索更多潜在相关的内容。这种方法通过生成与用户问题语义相近的假设性问题，扩展模型的理解空间，以捕获更多与实际问题语义接近的内容。

效果：当用户问题较模糊或复杂时，这种方法能极大提升搜索结果的相关性。假设性问题的生成让模型能够在更大语义空间中找到答案，适用于金融分析、研究资料查找等需要深度理解的信息查询场景。

4. RAG-Fusion：多查询召回和 RRF 算法结合

RAG-Fusion 是将多查询召回（Multi-query Recall）与 RRF（Reciprocal Rank Fusion）算法结合使用的优化策略。通过使用多个查询来获取更全面的内容，再根据各次查询结果的重要性进行加权排序，确保高召回率和高相关性。

效果：RAG-Fusion 在应对复杂问题时表现突出。不同关键词的组合查询可以获取多角度的内容，而 RRF 算法则确保最终展示给用户的结果是高度相关的。该策略适合多样化查询场景，例如新闻搜索、科学文献检索，或产品推荐系统中的用户多样化需求。

5. 问题转换：改写和拓展问题语义

问题转换通过改写和语义扩展，将用户问题转换成多种表达方式，以便模型能在处理问题时更加灵活。可以使用同义词替换或增加补充信息等方法，帮助模型识别问题的不同表达方式，提高召回效果。

效果：问题转换显著扩展了模型的理解能力，对提升召回率尤为重要，尤其适用于开放式问题。在智能客服系统、搜索引擎或对话机器人等场景下，问题转换能大幅度增强模型理解用户问题的多样性。

6. 调整文本切分和领域分类：增强召回与准确度

合理的文本切分和领域分类可以优化模型的搜索过程。文本切分能够减少信息碎片化带来的影响，让模型更精准地找到相关内容。领域分类帮助模型在不同主题上进行精确检索，使得召回率和准确率双双提升。

效果：对文本内容按逻辑切分、分类，模型的查询准确性和相关性都能得到提升，适用于数据量大且分布在多个领域的数据。此策略适合大型文档库、知识库、行业报告等需要对内容精准管理的场景。

7. Small-to-Big 索引：通过小索引连接大内容

Small-to-Big 索引策略通过小规模内容（如摘要或关键句）建立索引，并链接到大规模内容主体中，提升检索的完整性。这种方法在多文档场景中非常有效，可以让模型通过小内容找到更多的上下文关联信息。

效果：这种方法提高了模型在多文档或长文档场景下的搜索完整性。用户可以获取更有逻辑连贯性的答案，适用于法律文件、技术文档等长文档的检索。

8. 结构化数据提取：定制提取提升准确率

在结构化数据丰富的领域中，针对特定结构化数据的提取策略能显著提升查询的准确率。通过精细设计的提取方式，模型可以更准确地找到相关内容，避免误检无关信息。

效果：结构化数据提取能够确保模型提取内容的精准性，在医疗、财务、法律等高度结构化数据场景中尤为有效。针对这些领域的特定需求进行数据定制，能大幅度减少无关信息的干扰，帮助模型提供更可靠的回答。

如何学习AI大模型？

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。

不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！

想正式转到一些新兴的 AI 行业，不仅需要系统的学习AI大模型。同时也要跟已有的技能结合，辅助编程提效，或上手实操应用，增加自己的职场竞争力。

但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高

那么针对所有自学遇到困难的同学们，我帮大家系统梳理大模型学习脉络，将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉[CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）]()👈

学习路线

在这里插入图片描述

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

在这里插入图片描述

👉学会后的收获：👈

• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

在这里插入图片描述

1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集

👉获取方式：
😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

【四.RAG技术与应用】【1.RAG技术揭秘：大模型与检索增强生成】
03-03 100
RAG 技术可以用于自动生成文章段落、文档或者自动摘要。它基于检索到的知识来填充文本，让生成的内容更具信息价值。比如说，在生成一份报告时，RAG 技术可以根据报告的主题，检索相关的资料，然后自动生成报告的各个部分，或者对一篇长文档进行自动摘要，提取出关键信息，节省用户阅读的时间。RAG 技术作为大模型与自然语言处理领域的一项重要技术，以其独特的核心原理和强大的功能，在众多应用场景中展现出了巨大的潜力。它不仅为我们提供了更加高效、准确、可解释的文本生成服务，还在一定程度上解决了大模型面临的一些问题。
一文读懂AI大模型时代的RAG技术
最新发布
awei0916的专栏
04-17 1393
RAG（Retrieval-Augmented Generation，检索增强生成） 是一种结合检索技术与生成模型的技术架构，旨在通过动态引入外部知识库增强大语言模型（LLM）的生成能力。其核心思想是通过检索系统从外部数据源（如企业知识库、实时文档等）获取相关信息，并将检索结果作为上下文输入生成模型，以提高生成答案的准确性、时效性和专业性
通过改进Embedding模型，将你的RAG上下文召回率提高95%
m0_59164520的博客
10-25 1110
检索增强生成（RAG）是一种将LLM（大型语言模型）集成到商业用例中的突出技术，它允许将专有知识注入LLM中。本文假设您已经了解RAG的相关知识，并希望提高您的RAG准确率。让我们简要回顾一下这个过程。RAG模型包括两个主要步骤：检索和生成。在检索步骤中，涉及多个子步骤，包括将上下文文本转换为向量、索引上下文向量、检索用户查询的上下文向量以及重新排序上下文向量。一旦检索到查询的上下文，我们就进入生成阶段。在生成阶段，上下文与提示结合，然后发送给LLM以生成响应。
2个关键技巧把 RAG 检索准确率从 50% 提高到 95 %
surfirst的博客
12-21 1148
在讨论了 RAG 的 chunking、embedding、评估指标、评估流程等技术后，我们进一步探讨 RAG 系统的实际应用。在实际项目中，RAG（Retrieval-Augmented Generation）系统的检索阶段往往是影响生成效果的核心环节。RAG 系统的工作流程包括数据摄取（Data Ingestion）和数据查询（Data Querying），其中检索是至关重要的一步。本文介绍了在一个案例中，团队如何通过2个关键技巧把 RAG 检索准确率从 50% 提高到 95 %
RAG知识库的召回率
神棍之路
03-07 1145
召回率是RAG系统的核心指标，直接影响生成答案的完整性与可靠性。通过人工标注、自动化框架（如RAGAS）统计，并结合算法优化与参数调优，可针对性提升召回率。实际应用中需根据业务需求平衡召回率与准确率，并持续迭代检索模块以适配不同场景。
如何提高RAG系统准确率？12大常见痛点及巧妙解！
2401_85373691的博客
12-02 1060
我们探讨了开发 RAG 管道中的 12 个痛点（其中 7 个来自论文，5 个是额外补充）并提供了相应的解决方案。以下是改编自论文《Seven Failure Points When Engineering a Retrieval Augmented Generation System》的图表。
如何大幅的提高RAG在领域知识的准确性
KQe397773106的博客
04-22 863
本研究深入探讨了特定领域模型微调和推理机制对基于大型语言模型（LLMs）和增强检索生成（RAG）技术的问答（Q&A）系统性能的影响。通过 FinanceBench SEC 财务文件数据集的分析，我们发现，对于 RAG 系统而言，将经过微调的嵌入模型与 LLM 相结合，能够比通用模型获得更高的准确度，尤其是微调的嵌入模型贡献了更多的性能提升。此外，引入 RAG 之上的推理迭代机制，能够显著提升系统性能，使 Q&A 系统的表现更趋近于人类专家水平。
绝了！这样做竟能让RAG准确率飙升至90%以上，简直开挂！
mama19971023的博客
08-03 2218
我们需要根据实际的业务场景来设置不同的回应策略，例如当Top K 匹配不到时，可以直接返回特殊的语言标记，比如”知识库找不到问题相关的信息“，或者直接让LLM使用通用知识作答；又比如产品应用需要提供多轮对话，即拥有上下文联想功能时，我们还需要将历史会话记录整理后一起拼接到提示词中。
大模型外挂知识库rag综述
posuosini的博客
03-19 9154
大模型外挂知识库rag的综述
#RAG | AIGC # RAG召回率提升的方法以及优劣势
weixin_45312236的博客
05-22 4398
RAG（Retrieval-Augmented Generation）是一种结合了检索（Retrieval）和生成（Generation）的模型，用于增强大型语言模型（LLMs）的性能。召回率（Recall）是衡量RAG系统性能的关键指标之一，它表示系统能够检索到的相关文档占所有相关文档的比例。：通过改进召回过程来提高从大规模语料库中检索与给定查询相关的文档的准确性和效率[：在召回过程中纳入查询和文档的上下文信息，可以更准确地判断文档与查询的相似度[
大模型RAG架构落地的十大挑战
musicml的博客
08-17 322
▼最近直播超级多，预约保你有收获—0—RAG 简介RAG（Retrieval Augmented Generation）结合知识库检索与大模型回答，确保信息可靠且精准，同时节省了微调成本。RAG 流程简要概括为3步，对应其名：1、检索：借助 Embedding，将问题转化为向量，比对知识库，选取最相关的 Top K 知识。2、增强：结合检索出的上下文和问题，构造 Prompt。3. 生成：将 Pr...
惊了！这样做竟能让RAG准确率飙升至90%以上，简直开挂！
DAMOXINGHAITAI的博客
10-21 1469
我们需要根据实际的业务场景来设置不同的回应策略，例如当Top K 匹配不到时，可以直接返回特殊的语言标记，比如”知识库找不到问题相关的信息“，或者直接让LLM使用通用知识作答；又比如产品应用需要提供多轮对话，即拥有上下文联想功能时，我们还需要将历史会话记录整理后一起拼接到提示词中。
【AI大模型】2个简单技巧把 RAG 检索准确率从 50% 提高到 95 %
嘴巴吃糖了
01-07 950
RAG 检索准确率（Recall）是衡量检索系统能否找到与用户查询相关的所有文档的指标。它在 RAG 系统中尤为重要，因为如果检索阶段无法提供足够的上下文，即使生成模型再强大，也难以输出高质量结果。高检索准确率是确保生成内容相关性的基础。检索准确率（Recall）公式如下：示例：用户查询 “Swedish massage in Helsinki”。数据库中有 10 条相关文档，检索系统返回 9 条相关文档和 1 条不相关文档。核心在于检索阶段的优化：生成效果的提升离不开高质量的检索结果。
RAG实战篇：检索召回结果不准确？试试这三种实用方法
2401_85375186的博客
10-07 2123
在这篇文章中，围绕检索召回（Retrieval），风叔详细介绍如何优化RAG系统的召回结果，提升LLM大模型的回答准确度。在检索召回的时候，用户的问题会被输入到嵌入模型中进行向量化处理，然后系统会在向量数据库中，搜索与该问题向量语义上相似的知识文本或历史对话记录并返回。在Naive Rag中，系统会将所有检索到的块直接输入到 LLM生成回答，导致出现中间内容丢失、噪声占比过高、上下文长度限制等问题。
如何利用 instructor 提高 RAG 的准确性和召回率
weixin_43829633的博客
10-15 1631
RAG（Retrieval Augmented Generation）是一种检索增强生成技术，它利用大型语言模型来处理用户查询，RAG 技术的主要组成包括数据提取—embedding—创建索引—检索—排序（Rerank）—LLM 归纳生成，不过实际落地过程来看，将用户查询转换为嵌入向量直接检索，很多时候的结果在相关度方面没有那么理想，本篇分享一种对用户查询进行重写再去进行检索从而提高准确性和召回率的方案
提高 RAG 生成准确性
pumpkin84514的博客
11-15 1194
为了提高RAG优化检索模块：使用语义检索（Dense Retriever）来提高检索准确性。多轮检索与答案融合：通过多次检索，融合多个相关文档的信息来生成更全面的答案。强制引用检索信息：避免生成幻觉，确保生成的内容基于检索到的文档信息。使用强大的生成模型：通过使用更大规模的预训练生成模型来提高准确性。后处理与验证：对生成内容进行验证和审核，确保其可信度与一致性。每一步都可以针对具体的应用场景进一步优化，根据问题的复杂。
语义搜索与混合查询：Blended RAG如何提升检索准确性
wwlsm_zql的博客
04-19 2493
Blended RAG（Blended Retrieval-Augmented Generation）是一种结合了语义搜索技术如密集向量索引和稀疏编码的方法，它通过混合策略提高了RAG系统的检索效率和精确度。这种方法的提出者通过对IR（Information Retrieval）数据集如NQ和TREC-COVID数据集的研究，实现了更好的检索结果，并为IR设置了新的基准。他们还将这种混合检索器扩展到RAG系统中，在生成式问答数据集如SQUAD上取得了优越的结果，甚至超过了微调性能。
如何优化本地部署的 RAGFlow（提高准确率 & 响应速度）
u011296842的专栏
03-10 2616
的重要性，可以结合 BM25 / TF-IDF。如果检索 & LLM 生成速度慢，可以使用。本地部署的 RAGFlow 可能会遇到。如果 LLM 响应慢，可以使用。默认的向量检索可能会忽略。
怎么提高rag的召回率
02-25
### 提升RAG模型召回率的方法 #### 优化检索模块 为了提升RAG模型的召回率，增强检索模块的效果至关重要。通过引入更先进的索引结构和技术可以显著改善这一方面。例如，在构建倒排索引时采用更加精细的数据预处理方法，如词干提取、同义词扩展等措施来增加匹配机会[^1]。 #### 改善编码器质量 高质量的文档和查询向量表示对于提高召回率同样重要。可以通过调整Transformer架构中的超参数设置或是利用对比学习等方式训练得到更好的文本表征能力；另外也可以尝试多模态输入方式，即不仅仅依赖纯文字信息作为源材料而是加入图像等内容形式辅助建模过程从而获得更为丰富的特征表达[^2]。 #### 调整相似度计算函数 不同的距离度量标准会对最终结果产生影响。实验表明余弦相似性和内积操作在某些情况下可能不如其他类型的核函数有效。因此有必要针对具体应用场景测试多种方案并选取最优者用于实际部署环境中去[^3]。 ```python import numpy as np from sklearn.metrics.pairwise import cosine_similarity, rbf_kernel def calculate_similarities(query_vector, document_vectors): # 使用不同类型的核函数计算相似度得分 cos_scores = cosine_similarity([query_vector], document_vectors)[0] kernel_scores = rbf_kernel([query_vector], document_vectors)[0] return { "cosine": list(cos_scores), "rbf_kernel": list(kernel_scores) } ``` #### 增加负样本采样多样性 适当扩大候选集规模有助于发现更多潜在的相关项。这不仅限于简单地增加数量级上的扩充，更重要的是要保证新增部分具有足够的异质性以覆盖尽可能广泛的主题范围。一种常见做法是在原始语料库基础上随机抽取一定比例未见过的新实例补充进来参与后续评估环节。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值