超级会员免费看
本文档详细介绍了如何在CentOS7环境下，针对CUDA10.2和CUDNN7的系统，编译安装FasterTransformer，并进行C++运行测试。包括C++编译准备、编译过程、运行环境准备、模型转换和运行GPT模型的步骤，特别强调了模型的下载、转换以及不同并行方式的配置。
基础环境：centos7 + cuda10.2+cudnn7
显卡：Tesla V100
参考：https://github.com/NVIDIA/FasterTransformer/blob/main/docs/gpt_guide.md
1 C++编译准备
代码准备：
git clone https://github.com/NVIDIA/FasterTransformer.git
mkdir -p FasterTransformer/build
cd FasterTransformer/build
git submodule init && git submodule update
（1）安装cmake</
订阅专栏 解锁全文
扫一扫
2028
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
