三分钟带你了解提示工程、微调、RAG怎么选？

最新推荐文章于 2024-08-24 20:42:47 发布

小天才学习机打游戏

最新推荐文章于 2024-08-24 20:42:47 发布

阅读量1.7k

点赞数 27

文章标签：人工智能大数据数据库架构语言模型

本文链接：https://blog.csdn.net/m0_59164520/article/details/140188321

版权

本文主要探讨提示工程（Prompt Engineering）、微调（Fine-tuning）和检索增强生成（RAG）分别是什么？都有什么优缺点？希望帮助你理解何时以及如何有效地运用这些技术。

我们先来了解一下各自的概念，我们先来看看元宝的理解：

提示工程（Prompt Engineering）

定义：提示工程是一种技术，通过设计和优化提示词来引导生成式AI模型生成所需的输出。它涉及到自然语言处理、机器学习和人机交互等多个领域的知识，旨在创建高度有效和可控的AI系统。
应用：提示工程广泛应用于生成式AI系统，如自然语言处理、机器翻译等领域，通过有效的提示设计，可以提高用户的使用体验和效率，使系统能够更准确地生成人们所需要的输出成果。

检索增强生成（Retrieval Augmented Generation）

定义：检索增强生成（RAG）是一种技术，它通过优化大型语言模型（LLM）的输出，使其能够在生成响应之前引用训练数据来源之外的权威知识库。RAG通过引入信息检索组件，利用用户输入从新数据源提取信息，并与LLM结合生成更好的响应。

应用：RAG适用于需要快速更新知识、对实时性要求不是特别高的应用场景，以及对高度可解释性或准确性有要求的场景。

微调（Fine-tuning）

定义：微调（Fine-tuning）是在深度学习领域中，特别是针对预训练模型的一种训练策略。它是指在预训练模型的基础上，针对具体下游任务使用较小规模但有标签的目标数据集对该模型的部分或全部参数进行进一步的训练。

应用：微调适用于数据量较小但质量高的领域，对模型效果有较高要求，且可以承担相应计算资源消耗的场景。它通过训练使模型获得新的领域知识，提高在特定任务上的表现。

通过上面的描述可以大致理解一点，下面我们通过通俗一点的例子来进一步了解提示工程、RAG还有微调，在实际应用当中应该怎么选择。

首先呢，我们要弄清楚大模型是怎么训练出来的，为了训练大模型，首先需要海量的数据，然后通过训练的方法来构造一个大模型。

然后这个大模型，其实它具备了非常多的能力，因为我们在训练的过程里面，其实使用到的数据是非常多样化的，包括各行各业的数据，像医疗、金融、智能制造、教育，还有好多好多其他行业的数据，现在可以把这个大模型比作是一个智能化的大脑。

假如我拥有了这个大脑，你来向我提出挑战或者提出问题，但是很不幸，我回答的并不是你想要的答案，那这么这里就有问题了，到底是什么原因导致我回答错误呢？有以下三种原因：

1、你可能没有问清楚，就是你没有让我明白你到底想做什么？

这个时候，你就需要把这个问题整理成一个让我能听得懂的、以更详细的内容给我，我才能有可能帮到你。那这个过程本质上对应的提示工程。如果我接下来使用提示工程的方法能解决你这个问题，那我们就结束了，如果还是没有解决，那就需要考虑第二种情况。

2、有可能是我欠缺相关领域的知识

我拥有医疗、金融、智能制造、教育行业的数据，如果你问了我一个建筑方向的问题，即使掌握一定的方法论，但是由于我对建筑不太熟悉，不了解相关的知识，我还是帮不到你，所以这个时候怎么办？

正确的方案是给我讲清楚问题，最好围绕问题给我把建筑行业的相关的一些背景知识讲清楚，让我至少明白问题的背景，问题的场景，以及要解决的问题本身。有了这些相关的知识，我们也可以把它叫做上下文，之后我有可能帮到你，那这个实际上对应的RAG。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述