大模型已成为AI圈的一种潮流,不仅横扫各大性能榜单,更产生了诸多有趣应用。
例如,微软和OpenAI开发的自动代码建议补全神器Copilot,化身程序员最佳助手,提升工作效率。
OpenAI 刚刚发布能以假乱真的文本生成图像模型 DALL-E 2,Google 便紧接着发布了 Imagen,在大模型上,大公司也是相当的卷,丝毫不比 CV 刷榜差。
文本到图像生成样例“一个被猫绊倒的希腊人雕像”(左侧两列为Imagen,右侧两列为DALL·E 2)
模型增大带来的神奇表现,使得近几年预训练模型规模呈现爆炸式增长。然而,训练甚至微调大模型都需要非常高的硬件成本,动辄几十、上百张GPU。此外,PyTorch、TensorFlow等现有深度学习框架也难以有效处理超大模型,通常需要专业的AI系统工程师做针对具体模型做适配和优化。
更重要的是,不是每一个实验室以及研发团队都具备“钞”能力,能够随时调用大规模GPU集群来使用大模型,更不用提仅有一张显卡的个人开发者。因此,尽管大模型已经吸引了大量关注,高昂的上手门槛却令大众“望尘莫及”。
导致大模型使用成本增高的核心原因是显存限制。GPU计算虽快,但显存容量有限,无法容纳大模型。在前不久的文章《一块英伟达3090单挑180亿参数大模型,国产开源项目这回杀疯了》中,我们介绍了Colossal-AI最新研发的异构内存系统,它能够高效地同时使用GPU显存以及价格低廉的CPU内存,可提升模型容量十余倍,以低成本高效训练AI大模型,兼容目前主流的训练任务和优化加速技术,还能便捷扩展至大规模分布式。
Hugging Face为深度学习社区提供了超过5万个AI模型的实现,最其中也不乏像GPT, OPT这样的大模型,现已成为最流行的AI库之一。
Colossal-AI无缝支持Hugging Face社区模型,让大模型对每一位开发者都变得触手可及。接下来,我们将以Meta发布的大模型OPT为例,展现如何使用Colossal-AI,仅需添加几行代码,便可实现大模型的低成本训练和微调。
开源地址:https://github.com/hpcaitech/ColossalAI
低成本加速大模型OPT
OPT模型
OPT的全称为Open Pretrained Transformer,是Meta(Facebook) AI实验室发布的对标GPT-3的大规模Transformer模型。与OpenAI尚未公开模型权重的GPT-3相比,Meta AI慷慨地开源了所有的代码以及模型权重,极大推动了AI大模型的民主化,每一位开发者都能以此为基础开发个性化的下游任务。接下来,我们将用Hugging Face提供的OPT模型的预训练权重进行Casual Language Modelling的微调。
添加配置文件
想要使用Colossal-AI中各个强大功能,用户无需更改代码训练逻辑,只用添加一个简单的配置文件,即可赋予模型所期望的功能,比如混合精度、梯度累积、多维并行训练、冗余内存优化等。
在一张GPU上,以异构训练为例,我们只需在配置文件里加上相关配置项。其中tensor_placement_policy
决定了我们异构训练的策略,这个参数可以为cuda
、cpu
以及auto
。各个策略有不同的优点:
-
cuda
: 将全部模型参数都放置于GPU上,适合不offload时仍然能进行训练的传统场景;
-
cpu
则会将模型参数都放置在CPU内存中,仅在GPU显存中保留当前参与计算的权重,适合超大模型的训练;
-
auto
则会根据实时的内存信息,自动决定保留在GPU显存中的参数量,这样能最大化利用GPU显存,同时减少CPU-GPU之间的数据传输。
对于一般用户而言,仅需选择auto
策略,由Colossal-AI自动化地实时动态选择最佳异构策略,最大化计算效率。
from colossalai.zero.shard_utils import TensorShardStrategy
zero = dict(model_config=dict(shard_strategy=TensorShardStrategy(),
tensor_placement_policy="auto"),
optimizer_config=dict(gpu_margin_mem_ratio=0.8))
运行启动
在配置文件准备好之后,我们只需插入几行代码即可启动声明的新功能。
首先,通过一行代码,使用配置文件启动Colossal-AI,Colossal-AI会自动初始化分布式环境,并读取相关配置,之后将配置里的功能自动注入到模型以及优化器等组件中。
colossalai.launch_from_torch(config='./configs/colossalai_zero.py')
接下来,用户可以照常定义数据集、模型、优化器、损失函数等,例如直接使用原生PyTorch代码。在定义模型时,只需将模型放置于ZeroInitContext
下初始化即可。在例子里,我们使用Hugging Face提供的OPTForCausalLM模型以及预训练权重,在Wikitext数据集上进行微调。
with ZeroInitContext(target_device=torch.cuda.current_device(),
shard_strategy=shard_strategy,
shard_param=True):
model = OPTForCausalLM.from_pretrained(
'facebook/opt-1.3b'
config=config
)
接着,只需要调用colossalai.initialize
,便可将配置文件里定义的异构内存功能统一注入到训练引擎中,即可启动相应功能。
engine, train_dataloader, eval_dataloader, lr_scheduler = colossalai.initialize(model=model,
optimizer=optimizer,
criterion=criterion,
train_dataloader=train_dataloader,
test_dataloader=eval_dataloader,
lr_scheduler=lr_scheduler)
优势显著
在单张GPU,与微软DeepSpeed相比,Colossal-AI的使用自动化的auto策略,在不同的模型规模上相比DeepSpeed 的 ZeRO Offloading策略,均体现出显著优势,最快可实现40%的加速。而PyTorch等传统深度学习框架,在单张GPU上已经无法运行如此大的模型。
对于使用8张GPU的并行训练,Colossal-AI仅需在启动命令中添加-nprocs 8
即可实现!
背后秘诀
如此显著的提升来自于Colossal-AI的高效异构内存管理子系统Gemini。简单的来说,在模型训练时,Gemini在前面的几个step进行预热,收集PyTorch动态计算图中的内存消耗信息;在预热结束后,计算一个算子前,利用收集的内存使用记录,Gemini将预留出这个算子在计算设备上所需的峰值内存,并同时从GPU显存里移动一些模型张量到CPU内存。
Gemini内置的内存管理器给每个张量都标记一个状态信息,包括HOLD、COMPUTE、FREE等。然后,根据动态查询到的内存使用情况,不断动态转换张量状态、调整张量位置,相比起DeepSpeed的ZeRO Offload的静态划分,Colossal-AI Gemini能更高效利用GPU显存和CPU内存,实现在硬件极其有限的情况下,最大化模型容量和平衡训练速度。
对于大模型的代表GPT,使用Colossal-AI在搭载RTX 2060 6GB的普通游戏笔记本上,也足以训练高达15亿参数模型;对于搭载RTX3090 24GB的个人电脑,更是可以直接训练180亿参数的模型;对于Tesla V100等专业计算卡,Colossal-AI也能显示出显著改善。
便捷高效并行扩展
想要以最短时间训练当今世界最大最前沿的AI模型,仍离不开高效的分布式并行扩展。对于同时使用数据并行、流水并行、2.5维张量并行等复杂并行策略,仅需简单声明,即可自动实现,Colossal-AI无需像其他系统和框架侵入代码,手动处理复杂的底层逻辑。
parallel = dict(
pipeline=2,
tensor=dict(mode='2.5d', depth = 1, size=4)
)
在面对扩展至数十甚至数百张GPU的大规模并行场景时,相比英伟达Megatron-LM等现有系统,Colossal-AI在性能上仍显示出显著的加速性能和资源节约。这意味着对于预训练GPT-3等超大AI模型,可节省数百万元的训练费用。
Colossal-AI相关解决方案已成功在自动驾驶、云计算、零售、医药、芯片等行业知名厂商落地应用,广受好评。
Colossal-AI注重开源社区建设,提供中文教程,开放用户社群及论坛,对于用户反馈进行高效交流与迭代更新,不断添加PaLM、AlphaFold等前沿应用。
自然开源以来,Colossal-AI已经多次在GitHub及Papers With Code热榜位列世界第一,与众多已有数万star的明星开源项目一起受到海内外关注!
传送门
项目地址:
https://github.com/hpcaitech/ColossalAI
招聘
潞晨科技还在广纳英才,招聘全职/实习AI分布式系统、架构、编译器、网络、CUDA、SaaS、k8s等核心系统研发人员,开源社区运营、销售人员。
潞晨科技提供有竞争力的薪资回报,特别优秀的,还可以申请远程工作。也欢迎各位向潞晨科技引荐优秀人才,如果您推荐优秀人才成功签约潞晨科技,我们将为您提供数千元至数万元的推荐费。
工作地点:中国北京,新加坡,美国 (可相互转岗)。
简历投递邮箱:hr@luchentech.com
参考文献:
https://arxiv.org/abs/2202.05924v2
https://arxiv.org/abs/2205.11487
https://github.com/features/copilot
https://github.com/huggingface/transformers
https://medium.com/@yangyou_berkeley/colossal-ai-seamlessly-accelerates-large-models-at-low-costs-with-hugging-face-4d1a887e500d