手把手教你实现大模型RAG [ 1 ]-大模型应用技术介绍

大模型应用技术介绍

自chatGPT问世以来，基于大模型的应用如雨后春笋，从技术层面划分，可以将大模型的应用分为四个技术类型，包括：基于prompt工程的、基于微调的、基于检索增强生成的及agent四个机制。

prompt工程

基于prompt工程的主要是直接使用大模型，为了让大模型的输出更符合人类预期，主要的研究重点在如何设计prompt。在介绍设计prompt原则前，先介绍几个容易混淆的概念：

• zero shot：zero shot指的向大模型提问时，不给出示例，比如将中文翻译成英文，直接给出的一段话或段落让大模型翻译，如：“”“请将下面的中文翻译成英文：中国是我的故乡”“”
• few shot：与few shot对应的是zero shot，这种情况是在让大模型输出结果时，给出1个或多个例子，如：“”“请参考例子将下面的中文翻译成英文，中国->china, 漂亮->beauty, 中国是我的故乡->”“”, 这里给出了两个"中国"和"漂亮"的翻译例子。
• in-context learning：in-context learning更多强调的是上下文信息，包括但不局限于示例，一般而言，in-context learning含义与few shot含义接近。
• instruct learning：instruct learning 是更广义的提示，强调的是任务的要求和说明，其中可以包括例子，也可能只有说明和要求，比如"““你是一位资深的地理学者，请告诉我地球包括几大洋？””“”

在很多场景下，in-context learning 、instruct learning是一期谈论的，zero shot、few shot会一期谈论，可以理解为他们是不同场景下的表达。

纯使用大模型，围绕设计prompt通常需要遵循以下几个原则：

• 确定谈话的目的和重点。在编写提示之前，必须清楚地了解您希望通过对话实现的目标。您是想提供信息、回答问题还是进行随意的交谈？通过确定对话的目的和重点，您可以制作一个具体且相关的提示。
• 使用具体和相关的语言。为确保大模型理解您的提示并提供适当的响应，使用特定且相关的语言至关重要。避免使用可能引起混淆或误解的行话或模棱两可的语言。相反，使用与当前主题相关的语言，力求尽可能清晰和简洁。
• 避免使用开放式或过于宽泛的提示。虽然为了获得更全面的答复而提出开放式或过于宽泛的问题可能很诱人，但这些类型的提示通常会导致与大模型的对话脱节或没有重点。相反，目标是在您的提示中尽可能具体，为对话定义明确的目的和重点。
• 查看并修改您的提示。在将您的提示发送到ChatGPT之前，请花点时间查看和修改它以确保它清晰易懂。考虑语言是否具体、相关，提示是否突出重点，避免歧义。

设计prompt的完整说明见ChatGPT提示(prompt)的艺术: 制作清晰有效的提示的指南

微调使用(SFT)

我们在使用大模型解决实际问题时会发现，在有些情况下大模型无法解决某些特定领域的问题，比如使用ChatGPT无法很好的回答中国法律法规相关的问题。

为了解决这类问题，可以在以后的开源大模型上使用专业领域的数据做一些微调，让大模型更好的在特定领域发挥作用。

微调的方法有很多，包括p-tuning、prefix-tuning、adapter及比较常用的lora等方式，从业务上来包括基于输入的、基于目标的微调等等。

在很多的场景下，经过微调的模型在特定场景下都能取得不错的提升。

然而，微调也有其自身的弊端，要对模型进行微调就需要标注有标签的数据，这会大大增加大模型落地的成本，同时使用特定场景的标注数据微调会导致泛化能力不强，对新的任务新的场景需要重新微调，这个过程是耗时耗力的。

检索增强生成(RAG)

企业自己训练大模型成本是高昂的，对很多中小型公司来说，直接通过接口访问第三方大模型是经济效益比较好的方案，为了满足特定场景和特定领域的需求，检索增强生成技术应运而生。

检索增强生成是在不修改大模型的基础上，将特定的领域数据一同喂给大模型，大模型结合给定的领域数据回答用户的问题。

在提供特定的领域数据一般有两个方案：

一种方案是公司特有的数据先本地构建索引然后检索出若干相关信息，让大模型结合检索的信息回答问题，每次提问只会给相关的信息一个发给大模型。

另一种方案是用户直接给大模型提供方上传本地知识库，由大模型提供方去管理这些用户上传的本地知识。

两者相比，方案一更加注重隐私，也可以根据自身需要优化检索的方案。方案二更加便利，因为是专门的第三方提供服务，服务的稳定性也更有保障。

另外在大模型部署侧也可以公司内部自己部署开源的大模型而非使用第三方的大模型服务。

代理模式(agent)

agent模式是解决复杂问题多任务场景的最优解决方案或是目前阶段逼近AGI的最有效的技术方案。

agent可以自定义函数和工具如计算器/日历/搜索服务等、执行逻辑，又充分利用大模型的任务拆解、规划和自定义函数和工具选择的能力，将其结合起来，达到1+1>2的效果。

agent的主要应用为多角色协作处理复杂的多任务场景，agent的劣势是需要整合的工具较多，从性价比来看单个任务使用agent未必是最优解。

其他

使用大模型的技术中，上述介绍的几种不是觉得割裂的，是可以综合在一起的，比如既设计好的prompt，也可以使用微调的模型。

使用RAG技术也可以使用微调的模型等等。需要强调的是在大模型技术的演进中，还有一类是强化学习技术，强化学习技术对数据和奖励函数/模型的设计要求非常高，一般情况下是不会使用这类技术去微调模型提升特定场景下应用的效果的，性价比极低，所以这里不展开介绍。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

• 大模型 AI 能干什么？
• 大模型是怎样获得「智能」的？
• 用好 AI 的核心心法
• 大模型应用业务架构
• 大模型应用技术架构
• 代码示例：向 GPT-3.5 灌入新知识
• 提示工程的意义和核心思想
• Prompt 典型构成
• 指令调优方法论
• 思维链和思维树
• Prompt 攻击和防范
• …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

• 为什么要做 RAG
• 搭建一个简单的 ChatPDF
• 检索的基础概念
• 什么是向量表示（Embeddings）
• 向量数据库与向量检索
• 基于向量检索的 RAG
• 搭建 RAG 系统的扩展知识
• 混合检索与 RAG-Fusion 简介
• 向量模型本地部署
• …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

• 为什么要做 RAG
• 什么是模型
• 什么是模型训练
• 求解器 & 损失函数简介
• 小实验2：手写一个简单的神经网络并训练它
• 什么是训练/预训练/微调/轻量化微调
• Transformer结构简介
• 轻量化微调
• 实验数据集的构建
• …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

• 硬件选型
• 带你了解全球大模型
• 使用国产大模型服务
• 搭建 OpenAI 代理
• 热身：基于阿里云 PAI 部署 Stable Diffusion
• 在本地计算机运行大模型
• 大模型的私有化部署
• 基于 vLLM 部署大模型
• 案例：如何优雅地在阿里云私有部署开源大模型
• 部署一套开源 LLM 项目
• 内容安全
• 互联网信息服务算法备案
• …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】