**【摘要】**本文主要阐明如何去设计一个大模型的 IT 基础设施。包括前期评估、整体设计流程、总体集成和测试，重点阐述了整体设计流程的步骤和关键点。
一．前期评估
首先，在开始设计之前，你必须明确自己搭建私有化大模型的目的所在，并对可投入的时间和成本有明确估算，确保在可行性评估上没有明显不通过项。
有些基本常识在设计前，需要再次重申，如下：
1.建设大模型需要三个生产要素， IT 基础设施，算法模型和数据，同时需要相应技术人员。
2.基于 GPU 的算力集群资源不仅贵，还紧缺，这个状况最保守估计在 2023 年底前不会改变，（个人认为在 2024 年上半年前也不会有大变化）。你需要克服困难去筹集 GPU 卡资源 ( 由于显存和通信带宽时延的能力差距，目前最适合大模型训练的仍然是 H100 ， 4090 只能承担推理 )
3.前期的数据归集和预处理，以及后期的训练和微调，时间周期通常以月计，整个过程很难在几周内完成，在项目周期评估上要有心理准备。
4.虽然大模型已经表现出了令人惊艳的能力，但私有化大模型通常面向垂直行业应用，最初得到的效果可能会有所不同，和数据质量，行业特点以及项目预期都有关系。
以上基本信息明确无误后，需要再次评估是否具备启动条件，如果以上问题都有好的答案或者解决方法，那么就可以进入设计阶段。
二．整体设计流程
分为三步：筛选模型，规模训练，适配部署
1．以最小规模，快速寻找最合适的模型
现在可用的开源模型已经相当丰富，但针对你的特定应用需求，必然有合适与不合适之分，在这一步，你需要寻找最优模型。如何评价最优？通常来讲，大模型训练的最终结果呈现都是“一个能够进行完成某些任务的辅助工具”， co-pilot 、副驾、数字助理都是非常形象的描述，评价好坏主要是看这个工具的准确度。
查找模型的过程，业界使用了另一个术语“超参数搜索（ Hyperparameter Search ）”来描述。Lambda 的一份公开资料中有个图画得很形象，我这里借用一下：
所谓超参数是在机器学习过程启动之前就预先设置的参数，典型的超参数有学习率 learning rate ，批次大小 batch_size ，迭代次数 Epoch ，影响模型泛化能力的正则化系数，和神经网络的结构参数层数，神经元数量，卷积核大小等。不同的超参数设定加在一起，基本就确定了具体模型。通常情况下，我们需要做超参数调整优化，选择一组最优超参数，以提高机器学习的性能和效果，得到最优模型。在实践中超参数调整一般使用人工设置调整的范围，然后用机器在超参数范围内进行搜索，这个过程称为超参数搜索。常见的基础超参数搜索方法通常有网络搜索 GridSearch 、随机搜索 RandomizedSearch 或者拉丁超立方采样 Latin hypercube 等，具体细节有很多公开资料介绍，这里不再深入。
超参数本质上是参数的参数，人工介入配置，每次改变调整超参数，模型都要重新训练，然后做相应的验证评估工作，一个轮次周期可能从几个小时到两三天不等。这时候的设置的硬件规模也可以比较小，甚至可以从一台有 GPU 的游戏笔记本电脑起步，只是时间周期可能会长，如果有三台 GPU 服务器，搜索周期一定会大大缩短，毕竟算力决定时间；并且由于资源的保障，也可以考虑每台服务器并行跑不同的模型，这样更快出结果。
2．按需扩大至设计规模，进行训练和微调
找到了最适合的模型之后，那就该“动真格的了”，上规模。至于是扩展到几十台服务还是几万台，一得看设计预期，二得看预算和硬件资源筹集能力。在无视第二点“可能的实际困难情况下，我们看看如何分析需求：
2.1 需求分析
设计构建训练集群的基础设施时，主要是分析算力需求，总算力需求的计算方法可以参考以下公式，并适当考虑余量
训练总算力需求 = 模型的参数量 x 训练数据的 token 数 x 6
其中， 6 这个倍数是 Transformer 架构所决定的，因为每个 token 在模型正向传播时会做一次乘法和一次加法，而反向传播做两次乘法和两次加法，合计总计算次数为 6 。
注：神经网络通常是左边若干个神经元，右边若干个神经元，组成一个完全二分图。假设我们选出其中任意两个：左边的神经元 P 和右边的神经元 N 。
正向传播的时候：
P 把它的输出乘上 P 和 N 之间的权重 w ，发给 N ；乘法 1
N 连了多个神经元 P ，因此要加到一起，这就是 reduce ，需要一次加法。加法 1
反向传播的时候：
N 把它收到的梯度乘上 P 和 N 之间的权重 w ，发给 P ；乘法 2
P 同样连了多个 N ，需要把梯度 reduce 一下，也做个加法；加法 2
除外，权重 w 需要更新，那就要计算 w 的梯度，
把 N 收到的梯度乘上 P 正向传播的输出（ activation ）；乘法 3
一个 batch 一般有多个 sample ，
权重 w 的更新需要把这些 sample 的梯度加到一起。） 加法 3
因此一共是三次乘法和三次加法，计算总量的倍数就是 6
而推理算力需求可以参考公式，如下：（至于如何推出的公式，这里就不细说了）
推理总算力需求 = 2 x 输出 token 数量 x 参数数量 flops
至于 GPU 算力，主要的网卡公开资料也都有，如下表：
|
|
|
| |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
其中 A100 和 H100 训练和推理都适合，但 4090 只适合做推理，通信能力和显存都太低，非常拖累训练效率，基本可以认为不可用。
需求的算力可以计算，典型GPU算力也有数据，让两部分得到匹配，需求分析的基本工作就可以完成了，接下来就可以进入设计阶段。
如何设计管理大集群本就是一个很难的课题，尤其集群规模扩大到一定程度后，必须考虑节点数量带来的故障概率，所以如何设计故障域隔离，实现高可靠机制，组建多重高性能网络等，都是必须要考虑的因素。
总的来说， 整体系统设计可以分为三个层次：集群级，机柜级和节点级，下面逐个讨论。
2.2 集群设计
集群设计和在 IDC 的部署运维紧密相关，这个阶段都是非常基础的内容，设计从头出发，具体来说是 5 个方面：数据中心的状况、算力服务器、存储平台选择、高速网络，以及基础集群软件
数据中心 : 数据中心的 T 级标准，平面布局，机柜容量和每机柜电力容量
算力服务器：多少实际算力需求， 算力服务器的GPU 卡和接口配置等
存储：存储容量，并发性能，共享能力，高速缓存， GDS 兼容和优化
网络：IB 高速网络构建，复杂网络拓扑，冗余，并发，带外管理网络和监控网络，网络安全
基础软件：集群管理，任务调度，资源排布，容器和虚拟化，向量数据库等，包括最新的 InfiniBand 和 Nvidia 驱动， CUDA ， PyTorch 和其他大模型基础软件。
以上每一个方面展开来都有非常多的内容，也需要根据实际情况才能深入讨论，这里只能谈到设计原则。
2.3 机柜级设计
机柜级设计主要操心的是电源问题和机柜空间布置，可能需要机房管理的专业工程师和服务器存储网络的硬件工程师帮助你核对设备的电源规格，功率大小等电气参数，也需要核对设备的实际物理外形规格，包括几 U 高度，设备的深度和线缆长度等，所有这些和打算部署的机柜实际情况的匹配度都可能成为制约因素。特别是网络布局的实际落地，这部分情况会比较复杂，在大模型集群里，也许会存在 4 个网络：计算网络，存储网络，带外管理 IPMI 网络和入站管理网络。实际部署中，还可能会出现一个单独的核心网络机柜，这些都是在实际部署之前需要考虑的设计因素。
2.4 节点级设计
节点设计要关注的东西已经到 BOM 级别，但一般来说也只是集中到计算节点，而存储通常由存储方案商整体提供，存储节点内部的配置仅仅是知会或协商，小规模很难定制设计。
计算节点的配置已经有大量参考典型配置，你只需要关注几个重点：PCIe 的拓扑和代次， Lane 通道数量，这些对性能至关重要；另外 Numa 节点拓扑可能对 GPU 对等互联产生影响；同时，如果计算节点支持 NVlink ，能够避免通过 CPU 互连的数据传输瓶颈，在训练时会很有帮助。
3．部署和并提供推理能力
完成训练后，有两种选择，一是继续利用训练时候的集群提供服务，二是另行部署一套推理集群。第一种选择不用再重新设计，第二种选择需要根据推理集群的情况对以上设计适当修改。
推理集群通常高度适配某个行业应用，如果规模够大，另一端可能有数十万的用户调用，需要处理潜在的成千上万个并发请求，实时性是重要考虑因素。每一个推理请求都可能会有一个实际用户在等待推理结果，需要快速反馈答案，因此集群设计上除了前诉内容，还可以参考互联网应用的要求，具备高可用能力和 QoS ，对各种意外带来的中断都有应对机制，虽然不一定需要真正和用户签署小数点后很多个 9 的 SLA 协议，但是 SLA 必须要在心中。
另外，虽然部署的是相同的模型，但是实际处理的数据却不同，因此节点之间不会像训练时那样处理太多通信，不需要设计集群内部节点间的超高性能网络，满足高可用和冗余机制设计和一点点数据传输应该就可以了。
在不同阶段，设计要考虑的因素是不同的，我总结了一个表，如下：
1．模型筛选 | 2．训练微调 | 3．部署推理 | |
主要考量因素 | 训练带宽的性价比 | 单个大模型训练时间 | 高可用、带宽延迟 |
GPU算力 | 低 | 高 | 中 |
集群内部网络 | 低 | 高 | 低 |
高可用 | 低，可选 | 低，可选 | 高，必须 |
集群规模 | 低 | 高 | 中，高 |
成本 | 低 | 高 | 高 |
三、总体集成和测试（可选）
系统部署完成后，理论上应该进行集成测试，但是利用大模型打造的应用可能出现多种形态，也不一定限于类似 ChatGPT 的问答式应用；同时垂直行业有自身的特点，需要紧密结合行业特点制定测试方案。
如果是通用型的大模型，考虑到国内基本还都是中文大模型和应用环境，目前有一个很好的中文知识能力测试数据集 [C-Eval] ，1.4w 道选择题，涵盖共 52 个学科，从初中水平到大学再到专业水平，算是业界标杆测试之一。
怎么样去学习大模型
学习大模型可以是一个既复杂又充满挑战的过程，很多小伙伴都不知道从哪里入手，这让我意识到有很多经验和资源是值得去分享给大家学习的，所以也是把自己的知识库和耗时大量时间在各个平台寻找到的内容结合整理起来去帮助大家解答疑惑
由于互联网上的资源也是层出不穷，断断续续的更新导致小伙伴们无法获得一条正确的系统学习方案，故此将并将重要的 AI大模型资料 包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
😝有需要的小伙伴，可以V扫描下方二维码免费领取🆓
一、全套AGI大模型学习路线
AI大模型时代的学习之旅：从基础到前沿，掌握人工智能的核心技能！
二、640套AI大模型报告合集
这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。
三、AI大模型经典PDF籍
随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。
四、AI大模型商业化落地方案
阶段1：AI大模型时代的基础理解
- 目标：了解AI大模型的基本概念、发展历程和核心原理。
- 内容：
- L1.1 人工智能简述与大模型起源
- L1.2 大模型与通用人工智能
- L1.3 GPT模型的发展历程
- L1.4 模型工程
- L1.4.1 知识大模型
- L1.4.2 生产大模型
- L1.4.3 模型工程方法论
- L1.4.4 模型工程实践
- L1.5 GPT应用案例
阶段2：AI大模型API应用开发工程
- 目标：掌握AI大模型API的使用和开发，以及相关的编程技能。
- 内容：
- L2.1 API接口
- L2.1.1 OpenAI API接口
- L2.1.2 Python接口接入
- L2.1.3 BOT工具类框架
- L2.1.4 代码示例
- L2.2 Prompt框架
- L2.2.1 什么是Prompt
- L2.2.2 Prompt框架应用现状
- L2.2.3 基于GPTAS的Prompt框架
- L2.2.4 Prompt框架与Thought
- L2.2.5 Prompt框架与提示词
- L2.3 流水线工程
- L2.3.1 流水线工程的概念
- L2.3.2 流水线工程的优点
- L2.3.3 流水线工程的应用
- L2.4 总结与展望
阶段3：AI大模型应用架构实践
- 目标：深入理解AI大模型的应用架构，并能够进行私有化部署。
- 内容：
- L3.1 Agent模型框架
- L3.1.1 Agent模型框架的设计理念
- L3.1.2 Agent模型框架的核心组件
- L3.1.3 Agent模型框架的实现细节
- L3.2 MetaGPT
- L3.2.1 MetaGPT的基本概念
- L3.2.2 MetaGPT的工作原理
- L3.2.3 MetaGPT的应用场景
- L3.3 ChatGLM
- L3.3.1 ChatGLM的特点
- L3.3.2 ChatGLM的开发环境
- L3.3.3 ChatGLM的使用示例
- L3.4 LLAMA
- L3.4.1 LLAMA的特点
- L3.4.2 LLAMA的开发环境
- L3.4.3 LLAMA的使用示例
- L3.5 其他大模型介绍
阶段4：AI大模型私有化部署
- 目标：掌握多种AI大模型的私有化部署，包括多模态和特定领域模型。
- 内容：
- L4.1 模型私有化部署概述
- L4.2 模型私有化部署的关键技术
- L4.3 模型私有化部署的实施步骤
- L4.4 模型私有化部署的应用场景
学习计划：
- 阶段1：1-2个月，建立AI大模型的基础知识体系。
- 阶段2：2-3个月，专注于API应用开发能力的提升。
- 阶段3：3-4个月，深入实践AI大模型的应用架构和私有化部署。
- 阶段4：4-5个月，专注于高级模型的应用和部署。
扫一扫
418
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
