RAG高级优化：一文看尽query的转换之路

最新推荐文章于 2024-10-12 11:21:56 发布

江湖人称麻花滕

最新推荐文章于 2024-10-12 11:21:56 发布

阅读量1k

点赞数 13

文章标签： android java 搜索引擎学习人工智能深度学习 AI编程

本文链接：https://blog.csdn.net/m0_59235699/article/details/142186250

版权

准确地找到与用户查询最相关的信息是RAG系统成功的关键，如何帮助检索系统提升召回的效果是RAG系统研究的热门方向。本文将介绍三种query理解的方法，以增强检索增强生成(RAG)系统中的检索过程：

查询重写：重新定义查询，使其更加具体和详细。
Step-back提示：生成更广泛的查询，以获得更好的上下文检索
子查询分解：将复杂查询分解为更简单的子查询。

每种技术都旨在通过修改或扩展原始查询来提高检索信息的相关性和全面性。

query转化的优点

RAG系统在检索最相关的信息时经常面临挑战，特别是在处理复杂或模糊的查询时。这些查询转换技术通过重新制定查询以更好地匹配相关文档或检索更全面的信息来解决这个问题。

提升相关性:查询重写有助于检索更具体和相关的信息。
更好的上下文:后退提示允许检索更广泛的上下文和背景信息。
综合结果:子查询分解支持检索涵盖复杂查询的不同方面的信息。
灵活性:每种技术可以单独使用，也可以结合使用，这取决于具体的用例。

示例介绍

示例查询:“气候变化对环境的影响是什么?”

查询重写，将其扩展到包括特定方面，如温度变化和生物多样性。

step-back提示，将其概括为“气候变化的一般影响是什么?”

子查询分解，将其分解为生物多样性、海洋、天气模式和陆地环境等问题。

结论

这些查询转换技术为增强RAG系统的检索能力提供了强大的方法。通过以各种方式重新表述查询，它们可以显著提高检索信息的相关性、上下文和全面性。这些方法在查询复杂或多方面的领域中特别有价值，例如科学研究、法律分析或全面的事实查找任务。

方案介绍

1. 查询重写

目的:使查询更加具体和详细，提高检索相关信息的可能性。

方案:重写的确认样不仅与原始查询相似，而且还提供不同的角度或透视图，从而提高最终生成的质量和深度。

2. Step-back提示

目的:生成更广泛、更通用的查询，帮助检索相关的背景信息。

方案:后退提示（Step-Back Prompting）旨在通过考虑高层次的概念和原则来解决复杂问题，与直接解决问题的方法形成对比。“抽象的目的不是为了让你更迷糊，而是创建了绝对精确的新的语义层次”。

3. 子查询分解

目的:将复杂查询分解为更简单的子查询，以便更全面地检索信息。

方案:Query分解关键思想是将一个复杂问题分解成一系列更简单的子问题，然后依次解决它们。解决每个子问题都得益于之前解决的子问题的答案。

方案实现和举例

本节我们将介绍上述方法的具体实现，同时给出对应的prompt，并举例说明效果：所有技术都使用大模型进行查询转换；自定义提示模板用于指导模型生成适当的转换，代码为每种转换技术提供了单独的功能，允许轻松地集成到现有的RAG系统中。

1 -查询重写

重新表述查询以改进检索。

query_rewrite_template = """You are an AI assistant tasked with reformulating user queries to improve retrieval in a RAG system.` `Given the original query, rewrite it to be more specific, detailed, and likely to retrieve relevant information.``   ``Original query: {original_query}``   ``Rewritten query:"""``   ``query_rewrite_prompt = PromptTemplate(`    `input_variables=["original_query"],`    `template=query_rewrite_template``)``

运行例子：

# example query over the understanding climate change dataset``original_query = "气候变化对环境的影响是什么?"``rewritten_query = rewrite_query(original_query)``print("Original query:", original_query)``print("\nRewritten query:", rewritten_query)``

效果展示：

Original query: 气候变化对环境的影响是什么?``   ``Rewritten query: 气候变化对各种生态系统的具体影响是什么，包括温度、降水模式、海平面和生物多样性的变化?

2 -退步提示

生成更广泛的查询，以便更好地检索上下文。

# Create a prompt template for step-back prompting``step_back_template = """You are an AI assistant tasked with generating broader, more general queries to improve context retrieval in a RAG system.``Given the original query, generate a step-back query that is more general and can help retrieve relevant background information.``   ``Original query: {original_query}``   ``Step-back query:"""``   ``step_back_prompt = PromptTemplate(`    `input_variables=["original_query"],`    `template=step_back_template``)

运行例子

original_query = "气候变化对环境的影响是什么?"``step_back_query = generate_step_back_query(original_query)``print("Original query:", original_query)``print("\nStep-back query:", step_back_query)

效果展示：

Original query: 气候变化对环境的影响是什么?``   ``Step-back query: 气候变化的一般影响是什么?

3-子查询分解

将复杂查询分解为更简单的子查询。

subquery_decomposition_template = """You are an AI assistant tasked with breaking down complex queries into simpler sub-queries for a RAG system.``Given the original query, decompose it into 2-4 simpler sub-queries that, when answered together, would provide a comprehensive response to the original query.``   ``Original query: {original_query}``   ``example: What are the impacts of climate change on the environment?``   ``Sub-queries:``1. What are the impacts of climate change on biodiversity?``2. How does climate change affect the oceans?``3. What are the effects of climate change on agriculture?``4. What are the impacts of climate change on human health?"""``   ``   ``subquery_decomposition_prompt = PromptTemplate(`    `input_variables=["original_query"],`    `template=subquery_decomposition_template``)

运行例子：

original_query = "气候变化对环境的影响是什么?"``sub_queries = decompose_query(original_query)``print("\nSub-queries:")``for i, sub_query in enumerate(sub_queries, 1):`    `print(sub_query)

效果展示：

Sub-queries:``Original query: 气候变化对环境的影响是什么?``1. 气候变化如何影响生物多样性和生态系统?``2. 气候变化对海洋环境和海洋生物有什么影响?``3. 气候变化如何影响天气模式和极端天气事件?``4. 气候变化对陆地环境，如森林和沙漠有什么影响?

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述