700亿参数LLaMA2训练加速195%，开箱即用的8到512卡LLaMA2全流程方案来了！

QbitAl

于 2023-09-04 17:17:23 发布

阅读量163

点赞数

原文链接：https://mp.weixin.qq.com/s?__biz=MzIzNjc1NzUzMw==&mid=2247694101&idx=1&sn=43415105fd22c5bb579d9834b5a4f482&chksm=e8df4067dfa8c971ef86fcd33b9683fc5766672f7ca26133533f34c262a171523d576b9ba228&scene=126&sessionid=0

版权

明敏发自凹非寺
量子位 | 公众号 QbitAI

LLaMA2训练微调推理，大提速了！

针对700亿版本，训练加速195%。

而且还能基于云平台实现无代码训练个性私有化模型，并一键部署。

超活跃的大模型系统开源项目Colossal-AI又上新了！

可提供开箱即用的8到512卡LLaMA2训练、微调、推理方案，并提供一站式云平台解决方案。

大模型开发和应用落地成本，再降亿点点~

LLaMA2训练加速195%

得益于开源特性，LLaMA系列大模型在短短几个月内已经衍生出诸多应用和项目，也成为很多公司企业应用大模型的首选。

最新的7B~70B LLaMA2大模型，进一步提高了语言模型的基础能力。

但由于LLaMA2的预训练预料大部分来自英文通用知识，而仅用微调能够提升和注入的领域知识和多语言能力也相对有限。

此外，高质量的专业知识和数据集通常被视为各个行业和公司的核心资产，仅能以私有化形式保存。

因此，以低成本预训练/继续预训练/微调LLaMA2系列大模型，结合高质量私有化业务数据积累，帮助业务降本增效是众多行业与企业的迫切需求与瓶颈。

但LLaMA2大模型仅发布了原始模型权重与推理脚本，不支持训练/微调，也未提供数据集。

所以，针对这些现有问题，Colossal-AI开源了针对LLaMA2的全流程方案，并具备高可扩展性，支持从70亿到700亿参数的模型，从8卡到512卡都可保持良好的性能。

在使用8卡训练/微调LLaMA2-7B时，Colossal-AI能达到约54%的硬件利用率（MFU），处于业界领先水平。

而对于预训练任务，以使用512张A100 40GB预训练LLaMA2-70B为例，DeepSpeed ZeRO3策略因显存不足而无法启动，仅能通过速度衰减较大的ZeRO3-offload策略启动。Colossal-AI则因卓越的系统优化和扩展性，仍能保持良好性能，训练提速195%。

Colossal-AI LLaMA-2训练/微调方案的高性能来源于新的异构内存管理系统Gemini和高性能算子（包括Flash attention 2）等系统优化。

新Gemini提供了高可扩展性、高鲁棒性、高易用性的接口。其Checkpoint格式与HuggingFace完全兼容，减小了使用和转换成本。其对于切分、offload等的设置更加灵活且易用，能够覆盖更多硬件配置下的LLaMA-2训练/微调任务。

仅需数行代码即可使用：

from colossalai.booster import Booster
from colossalai.booster.plugin import GeminiPlugin
plugin = GeminiPlugin()
booster = Booster(plugin=plugin)
model, optimizer, train_dataloader, criterion = booster.boost(model, optimizer, train_dataloader, criterion)

ShardFormer多维细粒度并行

虽然对于主流硬件条件和大多数模型，Colossal-AI的新Gemini已经能够提供良好的性能，但是对于一些极端硬件条件，或者是特殊模型，可能仍然需要多维并行的细粒度优化。

现有其他方案通常需要分布式系统资深专家，手动对代码进行大规模重构和调优，Colossal-AI的ShardFormer提供了开箱即用的多维并行和算子优化的能力，仅需数行代码即可使用，在单机/大规模集群上都能提供良好的性能。

from colossalai.booster import Booster
from colossalai.booster.plugin import HybridParallelPlugin
from transformers.models.llama import LlamaForCausalLM, LlamaConfig
plugin = HybridParallelPlugin(tp_size=2, pp_size=2, num_microbatches=4, zero_stage=1)
booster = Booster(plugin=plugin)
model = LlamaForCausalLM(LlamaConfig())
model, optimizer, train_dataloader, criterion = booster.boost(model, optimizer, train_dataloader, criterion)

Colossal-AI ShardFormer支持包括LLaMA1/2、BLOOM、OPT、T5、GPT-2、BERT、GLM在内的主流开源模型，也可以直接使用Huggingface/transformers模型导入，Checkpoint格式也与HuggingFace完全兼容，对比Megatron-LM等需重写大量代码的方案，大大提升了易用性。