RAG还是微调，怎么选？简单用三个案例来分析RAG、微调如何选择？

最新推荐文章于 2025-04-06 16:29:07 发布

程序员丸子

最新推荐文章于 2025-04-06 16:29:07 发布

阅读量2.4k

点赞数 27

文章标签：自然语言处理大模型大语言模型 RAG 大模型微调语言模型大模型应用

本文链接：https://blog.csdn.net/lyy2017175913/article/details/144576812

版权

要想提高大模型在特定行业与场景中输出的适应性与准确性，除了使用RAG，还可以使用自己的数据对大模型进行微调。那么这两种方案的区别及选择的标准是什么呢？

我们首先简单了解一下大模型微调。以OpenAI公司的GPT大模型为例，一个GPT架构的大模型的训练通常需要经过以下几个阶段。

1．预训练阶段

这是整个过程中最复杂的阶段，像GPT-4这样的模型在预训练阶段通常需要成千上万个GPU，在海量的无标记的数据上训练数月。这个阶段其实占用了全部阶段的大部分时间。预训练阶段的输出模型一般叫基座模型，有的基座模型会被发布（比如开源的Llama），而有的基座模型不会被发布（比如GPT-4）。

基座模型本身是可以直接使用的，但通常不是一个“回答问题”的模型，而是一个“补全文档”的模型。如果你想让基座模型来回答问题，就必须假装输出一个文档，然后让它来“补全”。比如，你必须提示“下面是一首赞美祖国的诗歌：”，然后让模型来补全，而不能直接要求它“写一首赞美祖国的诗歌”。如何让基座模型变成一个交互式的AI助手呢？那就需要进入后面的阶段：微调。

2．微调阶段

在宏观上可以把后面的阶段都归到微调，即受监督微调、奖励模型+基于人类反馈的强化学习（Reinforcement Learning from Human Feedback，RLHF）阶段。简单地说，这个阶段就是对基座模型在少量（相对于预训练的数据量来说）的、已标注的数据上进行再次训练与强化学习，以使得模型更好地适应特定的场景与下游任务。比如：

（1）强化某个方面的应用能力（比如利用大模型进行情感检测）。

（2）适应特定的使用场景（比如针对人类对话，输出无害、安全的内容）。

（3）适应特定的知识领域（比如医疗或法律行业的特定术语或语义）。

（4）适应某些可标注数据相对稀缺的任务。

（5）适应特定的语言输出要求（比如适应某个场景的语言风格）。

与预训练相比，微调对算力的要求与成本都大大降低，这使得微调对于很多企业来说，在成本与技术上是相对可行的（当然，与RAG范式相比，成本仍然较高）。

大模型微调是一个相对专业的技术任务，涉及较多底层的深度学习的架构、参数及算法知识，以及多种技术（比如全量微调、Prompt Tuning，Prefix Tuning，P-tuning等）。不同的方法对资源与成本、指令数据等有不同的要求，当然达到的效果也不一样。另外，为了简化微调工作，也有一系列用于微调的工具、框架甚至平台可以使用，比如OpenAI针对GPT模型提供的在线微调API、重量级的大模型并行训练框架DeepSpeed等。

实施微调除了需要算力与算法、成熟的平台与工具，还需要生成与标注具有一定规模的高质量数据集，这通常由大量的指令与输出的样本来组成。对于一些行业特征特别突出的垂直领域，**数据集的准备是最大的挑战。**这些挑战如下。

数据从哪里采集，如何确保专业性与有效性。
对多形态的数据如何清洗与归一。
怎么标注数据的提示、输入、输出等。
处理老化数据，即知识过期后如何反馈到大模型。

继续以前面的例子来说明微调和RAG的区别。如果大模型是一个优秀学生，正在参加一门考试，那么RAG和微调的区别如下。

RAG： 在考试时给他提供某个领域的参考书，要求他现学现用，并给出答案。

微调：在考试前一天对他进行辅导，使他成为某个领域的专家，然后让他参加考试。

如何在RAG与微调之间选择适合自己的增强生成方案呢？ 在实际应用中，需要根据自身的环境（应用场景、行业特征、性能要求等）、条件（数据能力、技术能力、预计成本等）、测试结果（指令理解、输出准确性、输出稳定性等）等来选择（见图1-15）。

与大部分的IT技术一样，无论是微调还是RAG，都有优点，也都有缺点。下面简单地做一下对比供参考（随着两种技术的发展，总结的一些优点和缺点可能会发生变化）。

RAG

微调

优点

1．使用更灵活，可根据需要随时调整Prompt以获得期望输出。

2．技术上更简单。

3．可以输入知识增强的Prompt让大模型立即适应领域知识。

4．无额外的训练成本

1．大模型自身拥有特定知识的输出能力，或适应特定的输出格式。

2．对下游应用更友好，在特定的任务中使用更简单。

3．可以节约推理阶段使用的token，推理成本更低

缺点

1．容易受限于上下文窗口的大小。

2．输入本地知识增强的Prompt在实现上下文连续对话时较困难。

3．大模型输出的不确定性在高准确性的场景中会增加失败概率。

4．输入带有上下文的、较长的Prompt会带来较高的推理成本。

5．随着模型的迭代，可能需要重新调整Prompt

1．非开箱即用。

2．需要额外的数据准备、标注、清洗成本，以及必要的算力与训练成本。

3．需要足够的技术专家，特别是机器学习（Machine Learning，ML）专家、数据专家。

4．微调无法阻止出现“幻觉”问题，过度微调甚至可能导致某些能力下降。

5．模型迭代周期长，对实时性要求高的知识并不适用

无法确切地说在什么场景中必须使用RAG、在什么场景中必须使用微调。结合当前的一些研究及普遍的测试结果，可以认为在以下场景中更适合考虑微调的方案（在不考虑成本的前提下）。

（1）需要注入较大数据量且相对稳定、迭代周期较长的领域知识；需要形成一个相对通用的领域大模型用于对外服务或者运营。

（2）执行需要极高准确率的部分关键任务，且其他手段无法满足要求，此时需要通过高效微调甚至全量微调来提高对这些任务的输出精度，比如医疗诊断。

（3）在采用提示工程、RAG等技术后，无法达到需要的指令理解准确、输出稳定或其他业务目标。

在除此之外的很多场景中，可以优先考虑使用RAG来增强大模型生成。当然，在实际条件允许的前提下，两者的融合应用或许是未来更佳的选择。

针对所有自学遇到困难的同学们，我帮大家系统梳理大模型学习脉络，将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉[CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）]()👈

我们重点来讨论几个案例，来看一下每个案例到底选择RAG，还是微调，或者是RAG+微调。

第一个案例：比如说我们想打造一个AI的投资理财规划师，比如我根据用户的风险偏好，还有一些用户的情况来给他一个合理的建议，比如说基于一些目前市场上的情况，那这种AI的规划师我们到底怎么打造？那这里我们需要考虑的是RAG还是微调呢？大家可以先思考一下。

那为了回答这个问题，我们首先要剖析那这样的系统它到底需要具备什么样的能力？

1、第一个很重要，就是可以处理实时的数据，或者叫动态的数据；

2、它也需要具备很强的对话能力；

3、它也需要具备一定的金融行业的背景，也就是需要有金融能力。

那我们一个一个来看一下：

第一点：对于动态数据来讲，前面一篇文章也说到过RAG肯定是最适合去处理动态数据的，它可以从市场上抓取一些相应的数据，比如说实时的数据来去解决用户的问题。

第二点：很强的对话能力，它其实指的是上一篇文章所说到的第六点，就是我们的AI规划师，它需要具备通用模型所具备的很强的对话能力，所以很显然这里还是RAG，如果我们进行微调的话，它有可能会失去比较流畅的对话能力。

第三点：金融能力，那实际上其实市面上很多效果比较好的通用大模型，它其实也具备一定的金融能力的，因为在训练的时候，大模型已经被灌输了很多跟金融相关的数据，所以有可能微调在这里可能是不太必要的。

假如我们想打造这样的AI投资理财规划师，那我们首选大概率是RAG。

第二个案例：那第二个场景，比如我们想打造一个金融领域的信息抽取的Bot，比如说我希望AI可以去看一个研究报告，然后把研究报告里的一些相应的关键的信息把它取出来，或者甚至编写类似格式的研究报告。那对于这个场景用RAG？还是微调呢？

跟上面的例子一样，我们首先要理清楚它到底需要具备什么样的能力？

1、这里很明显，它需要具备很强的抽取能力。

2、其次它也需要具备一定的金融领域的能力，也就是对金融领域的一些文本，它需要有一个比较强的理解能力，那以至于像对话能力在这个场景里面是不太需要的。

第一点：对于抽取能力，我们可能大概率需要微调，因为它属于一个特定的能力，而且通用大模型的大概率可能对于这个特定的能力是比较弱的，所以我们需要通过一些微调的方法来加强这个能力。

第二点：其实跟上面是一样的，在这个场景下，我也不太需要去处理什么动态的数据，因为我们只是希望给定一个信息，然后从这个信息里面去抽取我们想要的东西。

综上所述，那对于第二个场景，实际上大概率需要做微调。

第三个案例：比如我们想做一个销售机器人，比如我们希望AI可以帮助我们去卖产品，比如说卖给用户或者卖给企业，那对于这个场景，我们使用RAG还是微调呢？

还是跟上面一样，我们要列出它所需具备哪些能力？

1、是我们需要大量的一些产品的数据，比如我们希望AI去卖东西，那肯定它得知道产品到底是什么，而且产品本身它是经常会改变的。所以产品数据，实际上要作为一个知识库，然后给我们的大模型去使用，所以这个对应到RAG。

2、关于销售的技巧和语气本身也比较重要，因为销售跟客服是不太一样的工作模式，因为客服更像是一个被动式的，所以你只要有问题问我，我只要提供回复即可。销售更多是一个主动的模式，这里面就很考验各方面能力，比如说销售的流程、销售的技巧、以及我以什么样的口吻去跟客户去交流，所以不同的公司它有不同的销售流程，而且即便在同一个公司里面，不同的销售人员，他采用的语气还有一些技巧也是不一样的，所以这些能力本身呢，可能大概率也没有办法用通用大模型来解决，可能需要微调。

根据上面总结下来，第三个案例需要RAG+微调

既然大模型现在这么火热，各行各业都在开发搭建属于自己企业的私有化大模型，那么势必会需要大量大模型人才，同时也会带来大批量的岗位？“雷军曾说过：站在风口，猪都能飞起来”可以说现在大模型就是当下风口，是一个可以改变自身的机会，就看我们能不能抓住了。