浅析RAG技术：大语言模型的知识增强之道

最新推荐文章于 2025-06-05 22:56:29 发布
最新推荐文章于 2025-06-05 22:56:29 发布
阅读量1.1k 收藏 16
点赞数 23
分类专栏： LangChain 文章标签： 语言模型 人工智能 自然语言处理 大模型 ollama deepseek langchain
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_37522117/article/details/146875747
版权

浅析RAG技术：大语言模型的知识增强之道

🏠 引言：当生成遇到检索

在人工智能领域，大型语言模型(LLMs)如GPT-4、Llama3等展现出了惊人的文本生成能力，但它们也面临着知识滞后、事实性错误等挑战。Retrieval-Augmented Generation(RAG)技术应运而生，通过将信息检索与文本生成相结合，显著提升了AI系统的准确性和可靠性。本文将全面剖析RAG技术的原理、实现和最佳实践。

在这里插入图片描述

🏠 RAG技术核心架构

RAG系统由三个关键组件构成：

  1. 检索模块：

    • 将用户查询向量化
    • 从知识库中检索相关文档
    • 支持混合检索策略（向量+关键词）

  2. 知识库：

    • 文档分块处理（通常500-1000字符）
    • 使用嵌入模型生成向量表示
    • 存储在FAISS/Chroma等向量数据库中

  3. 生成模块：

    • 将检索结果作为上下文
    • 通过提示工程优化输入
    • 生成最终回答
最低0.47元/天 解锁文章
大模型 rag 技术浅析（一）
m0_75253143的博客
03-30 90
RAG技术的主要思想是通过检索模块从外部知识库中获取相关信息，然后将这些信息与用户输入一起传递给生成模块，从而生成更准确、更有针对性的回答。这种方法可以有效缓解大语言模型在知识更新和特定领域知识不足方面的问题。
大模型 GraphRAG 技术浅析（一）
m0_75253143的博客
03-31 56
GraphRAG技术利用图数据库（如Neo4j、ArangoDB等）来存储和组织知识，其中节点代表实体（如人、地点、概念等），边代表实体之间的关系（如“属于”、“位于”、“朋友”等）。通过图结构，GraphRAG能够捕捉到更复杂的关系和语义信息，从而在检索和生成过程中提供更丰富、更准确的信息。
Chunking：基于大模型RAG系统中的文档分块
我相信......
08-04 1143
【引】“枯萎，无法回避，如人之生老病死；荒芜，无法接受，如碌碌无为一生。” 这是周六回乡下除草的感受。有所得，有所感，对工程技术也是如此。将大文档分割成较小的分块是一项关键而复杂的任务，对RAG系统的性能有着重大的影响。一般地，RAG系统旨在通过将基于检索的方法和基于生成的方法相结合，提高产出的质量和相关性。有多种框架提供了文档分块方法，每种方法都有自己的优点和典型用例。或许，利用主题感知的句子嵌...
大模型微调：RHLF与DPO浅析
我相信......
09-08 2092
大模型应用性能的提升不仅在于其预训练，而微调的作用也非常显著。对于多数从事大模型应用领域的团队而言，微调是一个核心的工作之一，为专门任务完善大模型并确保其产出符合我们的预期。1. 关于微调微调涉及调整预训练的LLM ，以更有效地执行特定的功能，提高其在不同应用程序中的效用。尽管LLM通过预训练获得了广泛的知识基础，仍需要定制以在特定领域或任务中表现出色。例如，对一般数据集上训练的大模型进行微调，以...
在大模型RAG系统中应用知识图谱
我相信......
02-25 3046
【引子】 关于大模型及其应用方面的文章层出不穷，聚焦于自己面对的问题，有针对性的阅读会有很多的启发，本文源自Whyhow.ai 上的一些文字和示例。对于在大模型应用过程中如何使用知识图谱比较有参考价值，特汇总分享给大家。在基于大模型的RAG应用中，可能会出现不同类型的问题，通过知识图谱的辅助可以在不同阶段增强RAG的效果，并具体说明在每个阶段如何改进答案和查询。知识图谱更类似于结构化数据存储，而不...
大模型应用系列：Query 变换的示例浅析
我相信......
11-03 1039
【引】NLP中的经典组件在大模型应用中还有效么？大模型对自然语言处理中的典型任务有什么影响么？RAG应用通过分割文档、嵌入向量化并检索高语义相似性的块来响应用户问题，但面临文档块不相关、用户用词不当及结构化查询需求等问题。若RAG无法找到必要信息，则无法正确回答。对此，可采用Query变换技术，包括Query改写以提高检索准确性、后退提示以获取背景信息及子查询分解以全面检索。这些方法常利用大模型生...
RAG检索增强技术在知识库智能检索场景下的应用实践
FrenzyTechAI的博客
12-18 8522
本文我们主要探讨了知识检索增强（Retrieval-Augmented Generation, RAG）技术的关键评估方法和行业应用，以及几种现有的技术栈选择及其优缺点。首先，关于RAG的效果评估，我们提到了两种主要的评估方式：独立评估和端到端评估。独立评估包括检索评估和生成评估，重点在于分别量化检索结果的质量和生成问题的能力。端到端评估则结合了无标签和有标签的评估指标，以及人工或GPT模型的评估方法，以获得更全面的效果评价。
大语言模型与ChatGPT：深入探索与应用
DEVELOPERAA的博客
10-18 1400
随着人工智能技术的飞速发展，大语言模型（Large Language Models, LLMs）成为了一个备受关注的研究领域。这些模型通过处理海量的数据来理解和生成自然语言文本，展现出令人惊叹的表现力。ChatGPT是其中的佼佼者，它基于GPT-3和GPT-4模型，能够与人类进行自然流畅的对话，为用户提供丰富的信息和帮助。
解读：基于图的大模型提示技术
我相信......
07-21 1115
【引子】大模型的兴起， 使得读论文成为了学习中的一种常态。如果一篇论文没有读懂，不用担心，可以再读一篇该领域内容相近的论文，量变可能会产生质变。就像编程语言一样，你永远无法精通一门编程语言，除非，精通两种。像思维链和思维树这样的提示技术，已经大大提高了大模型解决复杂的、基于推理的任务能力。从高层抽象来看，通过强制 LLM 构造对问题的逐步响应，我们可以大大提高其解决问题的能力。然而，这些技术都假设...
AI大模型开创新时代，B端落地正当其时！浅析大模型企业应用的几种模式
zhishi0000的博客
04-30 1172
模型的时效性限制。通用大模型是一个“活在过去”机器人，原因是因为千亿级参数的通用大模型训练是一项成本极高且费时费力的工作，所以它默认无法回答实时性高的问题。而在企业的实际应用场景中，往往需要结合实时信息来输出，比如最新的客户反馈、最新的产品更新、最新的网络舆论，甚至简单到今天的天气和航班。比如容易产生事实性错误。大模型的推理高度依赖于训练语料，虽然它会“创作”，但也无法凭空生成，只能是基于已有训练信息的推理预测。如果在某个领域的训练预料不足，就会产生事实性错误，胡说八道的含量急剧上升。
大模型应用系列：从Ranking到Reranking
cnzzs的博客
11-18 1270
【引子】Ranking 和Reranking又是一个NLP 处理中的传统技术，那么在大模型应用中又起到怎样的作用呢？每个搜索引擎背后都隐藏着一个至关重要却往往被忽视的组成部分——Reranking(重新排名)。那么，什么是Rerank呢？简而言之，这一过程旨在优化并调整搜索结果的顺序，使之更加精准地匹配用户的查询需求。值...
浅析Graph RAG的构建过程以及与传统知识图谱的比对
qq_43350218的博客
01-19 1309
Graph RAG 是结合知识图谱与检索增强生成的技术，可提升大语言模型的问答与复杂查询处理能力。其构建过程包括数据采集与预处理、实体与关系抽取、知识图谱构建、检索与生成等步骤。在数据采集与预处理中，需从多源收集数据并进行清洗、分块；实体与关系抽取可利用 LLM 并辅以人工标注；知识图谱构建要将提取的信息存储到图数据库，进行社区检测与摘要生成；检索与生成则根据用户查询进行局部或全局检索，并结合 LLM 生成答案。
【大模型:知识图谱】--3.py2neo连接图数据库neo4j
我是个好人呀，????
06-03 1395
本文介绍了Neo4j图数据库的安装与基本操作。主要内容包括：1) 使用py2neo连接Neo4j数据库；2) 通过Python实现节点创建、删除、属性修改等操作；3) 建立节点间关系的方法；4) 使用NodeMatcher和RelationshipMatcher进行节点和关系查询；5) 通过实例演示如何创建人物节点及其关系网络。文章还对比了Neo4j社区版和企业版的差异。全文提供了完整的代码示例，涵盖从连接到CRUD操作的完整流程。
深度学习之模型压缩三驾马车：基于ResNet18的模型剪枝实战（2）
ak47maker的博客
06-05 407
本文针对ResNet18模型剪枝进行了优化改进，主要包含三个方面：1) 将剪枝目标层从底层conv1调整为中间层layer2.0.conv1，减少对基础特征的破坏；2) 采用基于激活值的前向传播方法评估通道重要性，优先剪除低激活通道；3) 改进微调策略，动态解冻关联层并使用更低学习率(0.0001)进行10轮微调。这些优化有效提升了剪枝后模型的稳定性和性能表现，特别是通过中间层剪枝和基于特征贡献的通道选择策略，避免了底层特征破坏带来的连锁反应。
通过基于流视频预测的可泛化双手操作基础策略
yorkhunter的博客
06-04 2051
25年5月来自中国电信、西北工业大学和香港科大的论文“Towards a Generalizable Bimanual Foundation Policy via Flow-based Video Prediction”。 由于动作空间巨大且需要协调手臂运动，学习可泛化的双手操作策略对于具身智体而言极具挑战性。现有方法依赖于视觉-语言-动作 (VLA) 模型来获取双手操作策略。然而，从单臂数据集或预训练 VLA 模型迁移知识通常无法有效泛化，这主要是由于双手数据的匮乏以及单臂和双手操作之间的根本差异。本文
3步在小米13手机跑DeepSeek R1
羊仔的博客
06-03 1422
大家好！我是羊仔，专注AI工具、智能体、编程。
智能终端与边缘计算
最新发布
wozaiwurenchu的博客
06-05 491
Cloudlet的定义和主要特征Cloudlet（微云）概念于2009年首次出现。它是一种成熟的边缘计算系统，旨在将移动计算的“端-云”两层架构转变为**“端-边-云”的三层架构** [对话历史]。Cloudlet通常部署在网络边缘，靠近接入点、基站或汇聚点，甚至可以直接运行在智能网联汽车或无人机上 [对话历史]。主要特征：可信且资源丰富的主机或机群。基于虚拟机技术，为移动终端提供服务。Cloudlet通过将与具体应用相关的数据部分从通用部分中抽离出来，形成VM Overlay与Base VM。
法律AI的“幻觉”治理：大模型如何重塑司法公正与效率
七刀的专栏
06-04 965
在传统律师事务所中，一位律师审查一份50页的商业合同平均需要3小时；而在引入法律大模型后，这一时间被缩短至20分钟。效率提升的背后，是一场正在席卷全球法律体系的智能化革命——。
【oobabooga 本地AI模型搭建】
开心就好了啦
06-05 781
用于大型语言模型的 Gradio Web UI。其目标是成为文本生成的。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

肥猪猪爸

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值