一文彻底搞懂大模型 - LLM的构建流程

于 2024-08-29 10:42:14 发布
阅读量433 收藏 7
点赞数 10
文章标签： transformer 语言模型 深度学习 人工智能 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/youmaob/article/details/141672276
版权

LLM构建流程

大模型（LLM，Large Language Model）的构建流程，特别是OpenAI所使用的大语言模型GPT构建流程，主要包含四个阶段：预训练、有监督微调、奖励建模和强化学习。这四个阶段各自需要不同规模的数据集、不同类型的算法，并会产出不同类型的模型，同时所需的资源也有显著差异。

LLM构建流程

一、预训练（Pre-training）

什么是预训练？预训练技术通过从大规模未标记数据中学习通用特征和先验知识，减少对标记数据的依赖，加速并优化在有限数据集上的模型训练。

  1. 目标：让模型学习语言的统计模式和语义信息。

  2. 数据集：利用海量的训练数据，这些数据可以来自互联网网页、维基百科、书籍、GitHub、论文、问答网站等，构建包含数千亿甚至数万亿单词的具有多样性的内容。

  3. 算法与资源：利用由数千块高性能GPU和高速网络组成的超级计算机，花费数十天甚至数月的时间完成深度神经网络参数的训练，构建基础模型（Foundation Model）。这一阶段对计算资源的需求极大，例如GPT-3的训练就使用了1000+的NVIDIA GPU，并花费了相当长的时间。

  4. 结果：基础模型能够对长文本进行建模，具备语言生成能力，根据输入的提示词，模型可以生成文本补全句子。

Pre-training

为什么需要预训练？预训练是为了让模型在见到特定任务数据之前，先通过学习大量通用数据来捕获广泛有用的特征，从而提升模型在目标任务上的表现和泛化能力。

Pre-training

预训练的技术原理是什么？预训练利用大量无标签或弱标签的数据，通过某种算法模型进行训练，得到一个初步具备通用知识或能力的模型。

Pre-training

预训练是语言模型学习的初始阶段。在预训练期间，模型会接触大量未标记的文本数据，例如书籍、文章和网站。目标是捕获文本语料库中存在的底层模式、结构和语义知识。

Pre-training

二、有监督微调（Supervised Fine Tuning）
什么是有监督微调？有监督微调（Supervised Fine-Tuning, SFT）， 也被称为指令微调（Instruction Tuning）。在已经预训练好的模型基础上，通过使用有标注的特定任务数据对模型进行进一步的训练和调整，以提高模型在特定任务或领域上的性能。

  1. 目标：使模型具备完成特定任务（如问题回答、翻译、写作等）的能力。

  2. 数据集：使用少量高质量数据集，这些数据集包含用户输入的提示词和对应的理想输出结果。

  3. 算法：在基础模型的基础上进行有监督训练，使用与预训练阶段相同的语言模型训练算法。

  4. 资源：相比预训练阶段，有监督微调所需的计算资源较少，通常只需要数十块GPU，并在数天内完成训练。

  5. 结果：得到有监督微调模型（SFT模型），该模型具备初步的指令理解能力和上下文理解能力，能够完成开放领域问答、阅读理解、翻译、生成代码等任务。

Supervised Fine-tuning

为什么需要有监督微调？尽管预训练模型已经在大规模数据集上学到了丰富的通用特征和先验知识，但这些特征和知识可能并不完全适用于特定的目标任务。微调通过在新任务的少量标注数据上进一步训练预训练模型，使模型能够学习到与目标任务相关的特定特征和规律，从而更好地适应新任务。

  • 减少对新数据的需求：可以利用预训练模型已经学到的知识，减少对新数据的需求，从而在小数据集上获得更好的性能。

  • 降低训练成本：微调只需要调整预训练模型的部分参数，而不是从头开始训练整个模型，因此可以大大减少训练时间和所需的计算资源。

Supervised Fine-tuning

有监督微调的技术原理是什么？在预训练模型的基础上，针对特定任务或数据领域，通过在新任务的小规模标注数据集上进一步训练和调整模型的部分或全部参数，使模型能够更好地适应新任务，提高在新任务上的性能。*

Supervised Fine-tuning

有监督微调如何分类？SFT根据是否调整全部参数，可以细分为全面微调（Full Fine-tuning）和部分/参数高效微调（Parameter-Efficient Fine-tuning, PEFT）。

Supervised Fine-tuning

  1. 全面微调（Full Fine-tuning）

  • 定义：在新任务上调整模型的全部参数，以使其完全适应新任务。

  • 步骤：加载预训练模型 → 在新任务数据集上训练模型，调整所有参数。

  • 应用：当新任务与预训练任务差异较大，或者想要充分利用新任务数据集时，可以选择全面微调。

  1. 部分/参数高效微调（PEFT）

  • 定义： 仅调整模型的部分参数，如添加一些可训练的适配器（adapters）、前缀（prefixes）或微调少量的参数，以保持模型大部分参数不变的同时，实现对新任务的适应。

  • 步骤： 加载预训练模型 → 在模型中添加可训练的组件或选择部分参数 → 在新任务数据集上训练这些组件或参数。

  • 应用：当计算资源有限，或者想要快速适应新任务而不影响模型在其他任务上的性能时，PEFT是一个很好的选择。

PEFT

三、奖励建模（Reward Modeling）

什么是奖励模型？奖励模型是一个文本质量对比模型，它接受环境状态、生成的结果等信息作为输入，并输出一个奖励值作为反馈。奖励模型通过训练，能够识别并区分不同输出文本之间的优劣，为后续的强化学习阶段提供准确的奖励信号。

  1. 目标：构建一个文本质量对比模型，用于评估模型生成文本的质量。

  2. 数据集：需要百万量级的对比数据标注，这些数据标注需要消耗大量的人力和时间。

  3. 算法：通过二分类模型，对输入的两个结果之间的优劣进行判断。

  4. 资源：奖励模型的训练同样需要数十块GPU，并在数天内完成。

  5. 结果：得到一个能够评估模型生成文本质量的奖励模型，该模型本身并不能单独提供给用户使用，但为后续强化学习阶段提供重要支持。

Reward Modeling

为什么需要奖励模型？奖励模型能够量化并优化LLM生成的文本质量，使其更符合人类期望，从而提升LLM的性能和实用性。

Reward Modeling

奖励模型如何构建与训练？奖励模型采用二分类结构，通过对比人工标注的文本数据集进行训练，优化参数以最小化预测错误率或最大化排序准确性，需要大量计算资源和时间。

  • 模型架构：奖励模型通常采用二分类模型的结构，通过输入一对文本（即两个输出结果），判断它们之间的优劣关系。

  • 训练数据：奖励模型的训练数据通常来源于人工标注的对比数据集。标注者需要根据预设的标准（如准确性、有用性、流畅性等）对多个输出文本进行排序或分类。

  • 训练过程：奖励模型的训练过程类似于其他机器学习模型，需要使用大量的计算资源（如数十块GPU）和较长时间（数天）来完成。

Reward Modeling

四、强化学习（Reinforcement Learning）

什么是强化学习？根据数十万名用户给出的提示词，利用前一阶段训练的奖励模型，给出SFT模型对用户提示词补全结果的质量评估，并与语言模型建模目标综合得到更好的效果。

  1. 目标：根据奖励模型的评估，进一步优化模型生成文本的能力，使其更符合人类期望。

  2. 数据集：使用数十万用户给出的提示词和奖励模型评估的结果。

  3. 算法：利用强化学习算法（如PPO）调整模型参数，使模型生成的文本能够获得更高的奖励。

  4. 资源：相比预训练阶段，强化学习所需的计算资源较少，通常也只需要数十块GPU，并在数天内完成训练。

  5. 结果：得到最终的强化学习模型（RL模型），该模型具备更强的理解和生成能力，能够更好地满足人类的需求和期望。

Reinforcement Learning

为什么需要强化学习？使用强化学习，在SFT模型的基础上调整参数，使最终生成的文本可以获得更高的奖励(Reward)。

那么，如何系统的去学习大模型LLM？

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

作为一名热心肠的互联网老兵，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。

但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

所有资料 ⚡️ ，朋友们如果有需要全套 《LLM大模型入门+进阶学习资源包》，扫码获取~

篇幅有限，部分资料如下：

👉LLM大模型学习指南+路线汇总👈

💥大模型入门要点，扫盲必看！
在这里插入图片描述
💥既然要系统的学习大模型，那么学习路线是必不可少的，这份路线能帮助你快速梳理知识，形成自己的体系。

路线图很大就不一一展示了 （文末领取）
在这里插入图片描述

👉大模型入门实战训练👈

💥光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。
在这里插入图片描述

👉国内企业大模型落地应用案例👈

💥两本《中国大模型落地应用案例集》 收录了近两年151个优秀的大模型落地应用案例，这些案例覆盖了金融、医疗、教育、交通、制造等众多领域，无论是对于大模型技术的研究者，还是对于希望了解大模型技术在实际业务中如何应用的业内人士，都具有很高的参考价值。 （文末领取）
在这里插入图片描述

👉GitHub海量高星开源项目👈

💥收集整理了海量的开源项目，地址、代码、文档等等全都下载共享给大家一起学习！
在这里插入图片描述

👉LLM大模型学习视频👈

💥观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。 （文末领取）
在这里插入图片描述

👉640份大模型行业报告（持续更新）👈

💥包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。
在这里插入图片描述

👉获取方式：

这份完整版的大模型 LLM 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

😝有需要的小伙伴，可以Vx扫描下方二维码免费领取🆓

麻辣牛肉面
关注
  • 10
    点赞
  • 踩
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
一文彻底搞懂大模型 - LLM四阶段技术
m0_70839135的博客
08-19 642
Fine-Tuning是指使用特定领域的数据集对预训练的大型语言模型进行进一步训练的过程。通过微调，模型可以学习到特定领域的知识和模式，从而在相关任务上表现更好。在预训练模型的基础上，针对特定任务或数据领域，通过在新任务的小规模标注数据集上进一步训练和调整模型的部分或全部参数，使模型能够更好地适应新任务，提高在新任务上的性能。目标是捕获文本语料库中存在的底层模式、结构和语义知识。预训练利用大量无标签或弱标签的数据。
一文彻底搞懂大模型 - Agent（智能体）
weixin_53880910的博客
08-15 629
什么是LLM Agent？大模型Agent是一种构建于大型语言模型（LLM）之上的智能体，它具备环境感知能力、自主理解、决策制定及执行行动的能力。 Agent是能够模拟独立思考过程，灵活调用各类工具，逐步达成预设目标。在技术架构上，Agent从面向过程的架构转变为面向目标的架构，旨在通过感知、思考与行动的紧密结合，完成复杂任务。
一文彻底搞懂大模型 - Prompt Engineering、Function Calling、RAG、Fine-tuning
2401_85325519的博客
08-15 827
精准检索：RAG通过信息检索技术，从大规模的文档集合或知识库中检索出与给定输入最相关的信息。这种检索方式比传统的关键词匹配更加精准，能够捕捉到更丰富的上下文信息。高效检索：RAG利用索引和检索算法，如向量数据库和查询检索器，快速地从文本数据中提取相关内容。这大大提高了信息检索的效率，使得模型能够在短时间内处理大量数据。RAGRAG在学术写作与新闻摘要/报告生成中，助力LLM（大型语言模型）精准检索最新可靠信息，确保内容权威性与时效性。在学术写作中，RAG可以帮助LLM从大量文献中检索相关引用和论据。
一文彻底搞懂Self-RAG【下】：构建自省式的RAG应用与模型微调
2401_84204413的博客
06-17 1194
• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。注意看下图中的两个例子，右边的例子中借助评估模型的判断，发现需要检索，因此插入了[Retrieve]，[Relavant]等标记token，据此形成了一条新的训练数据。观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。
一文彻底搞懂大模型 - Agent（智能体）零基础入门到精通，收藏这一篇就够了
Python_paipai的博客
08-19 777
*
一文彻底搞懂大模型 - AI四次大发展
m0_59235699的博客
08-22 645
该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。如果你能在15天内完成所有的任务，那你堪称天才。由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。
一文彻底搞懂大模型： LLM四阶段技术（提示工程、Agent、微调、预训练）
老皮的博客
08-20 1101
AI大模型作为人工智能领域的重要技术突破，正成为推动各行各业创新和转型的关键力量。抓住AI大模型的风口，掌握AI大模型的知识和技能将变得越来越重要。学习AI大模型是一个系统的过程，需要从基础开始，逐步深入到更高级的技术。这里给大家精心整理了一份全面的AI大模型学习资源，包括：AI大模型全套学习路线图（从入门到实战）、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等，资料免费分享！
一文彻底搞懂大模型 - Prompt Engineering（提示工程）
xx_nm98的博客
08-18 1381
In-context learning的优势在于它不需要对模型进行微调（fine-tuning），从而节省了大量的计算资源和时间。在GPT-3中，In-context learning表现为模型能够在给定的任务示例或自然语言指令的上下文中，理解任务要求并生成相应的输出。Zero-shot Learning：不给GPT任何样例，仅通过自然语言指令来指导模型完成任务。假设你有一个任务，需要将文本分类为三种情感之一：正面，负面或中性。` `文本：我认为这次假期还可以。
一文讲明白初学者怎么入门大语言模型（LLM）？
python12222_的博客
07-05 1144
关于如何入门LLM，大多数回答都提到了调用API、训练微调和应用。但是大模型更新迭代太快，这个月发布的大模型打榜成功，仅仅过了一个月就被其他模型超越。训练微调也已经不是难事，有大量开源的微调框架（llamafactory、firefly等），你只要懂部署，配置几个参数就能启动训练。甚至现在有大量云上项目，你根本不需要部署，直接上传数据，就能启动。这我让想起来之前的算法工程师都被调侃成调参师，新出一个大模型，下载下来跑一遍，运行一遍，对于自己理解和入门大模型没有任何意义。
无缝融入，即刻智能[一]：Dify-LLM大模型平台，零编码集成嵌入第三方系统，42K+星标见证专属智能方案
丨汀、的博客
08-12 987
无缝融入，即刻智能[一]：Dify-LLM大模型平台，零编码集成嵌入第三方系统，42K+星标见证专属智能方案
LLM大模型工程入门级知识初探
互联网大厂后端码农，个人IP：无一郎的技术圈，欢迎加入我的知识星球，解锁更多内容
12-23 983
机缘巧合下自己的接触了大模型相关的研发工作，顺便调研总结一下大模型工程方向可能涉及到的行业热点方向与基础入门知识，还有一些的专业词汇的解释，有时候自己主动探索某个方向是一种乐趣，感兴趣就都可以了解一下。
一文读懂：大模型RAG
weixin_42029738的博客
06-11 459
本文概述 RAG 的核心算法，并举例说明其中的一些方法。RAG融合是一个强大的功能，能够提高RAG应用的语义搜索效率。通过使用语言模型生成多个查询并对搜索结果进行重新排序，RAG融合可以呈现更丰富多样的内容，并提供了一个额外的层次，用于调整应用。此外，RAG融合还可以实现自动纠正、节省成本以及增加内容多样性。但是，需要注意一些权衡，比如潜在的延迟问题、自动纠正的挑战以及成本影响。对于依赖常见概念但可能出现内部行话或重叠词汇的应用来说，RAG融合尤其有用。
一文读懂「RAG，Retrieval-Augmented Generation」检索增强生成
女王の专属领地
01-20 8067
检索增强生成（Retrieval Augmented Generation），简称 RAG，已经成为当前最火热的LLM应用方案。它是一个为大模型提供外部知识源的概念，这使它们能够生成准确且符合上下文的答案，同时能够减少模型幻觉。知识的局限性：模型自身的知识完全源于它的训练数据，而现有的主流大模型（ChatGPT、文心一言、通义千问…）的训练集基本都是构建于网络公开的数据，对于一些实时性的、非公开的或离线的数据是无法获取到的，这部分知识也就无从具备。幻觉问题。
基于深度学习的游客满意度分析与评论分析【情感分析、主题分析】
迷茫与徘徊只会让你陷入绝境，欢迎私信博主，带你开始提升变现价值！
08-28 901
随着物联网、云计算、虚拟现实等新兴技术的快速发展，大数据越来越广泛的运用到各领域中，不同于传统的数据分析，大数据分析不仅仅能够对一些大量的、简单的数据进行处理，通能够处理一些复杂的数据，例如文本数据、声音数据以及图像数据等，具有海量的数据规模、快速的数据流转、多样的数据类型和价值密度低的特征。通过大数据分析，帮助旅游企业或景区获取游客各个方面信息，从而更加准确地了解游客的消费行为、偏好、需求，发现游客满意度的影响因素，制定针对性的改进措施，提升游客满意度。近年来我国经济的快速发展和人民生活水平的不断提高，旅
通信领域深度学习的网址有哪些
RZer的博客
08-25 230
通信领域深度学习的网址有哪些
每日Attention学习15——Cross-Model Grafting Module
xiongxyowo的博客
08-25 235
Transformer在全局特征上更优，CNN在局部特征上更优，对这两者进行进行融合的最简单做法是直接相加或相乘。但是，相加或相乘本质上属于"局部"操作，如果某片区域两个特征的不确定性都较高，则会带来许多噪声。为此，本文提出了CMGM模块，通过交叉注意力的形式引入更为广泛的信息来增强融合效果。
深度学习基础—彩色图片的卷积运算
最新发布
sniper_fandc的博客
08-28 225
即假设输入图片是n*n*nc的大小，过滤器是f*f*nc的大小，得到的卷积结果是(n-f+1)*(n-f+1)*nc，其中nc是通道数，这里默认步长为1，不进行padding操作。但是如果想检测不同的边缘特征，比如想同时检测6*6 RGB图像垂直边缘和水平边缘，就可以使用2个3维过滤器（3*3*3），得到两个4*4的输出，把这两个4*4的输出堆叠为4*4*2的输出，这个输出表示同时检查水平和垂直边缘的结果。把这三个过滤器堆叠到一起形成3维过滤器，从而就可以只检测红色的边缘，绿色和蓝色不进行检测。
TIME-LLM是大模型吗
06-13
TIME-LLM（Time-aware Large Language Model）并不是一个公开广泛认知的大模型。它可能是某个特定研究团队或组织开发的一个时间序列相关的预训练语言模型，用于处理具有时间依赖性的自然语言处理任务，如文本生成、事件预测等。通常，像GPT、InferWeb、BERT这样的模型才被视为广为人知的大模型。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值