阿里巴巴 PAI NLP Transformer 模型

配置详情

基于 PyTorch 1.7.1 的阿里巴巴 PAI NLP Transformer 模型在第三代英特尔® 至强® 可扩展处理器上的吞吐量性能

基准配置：英特尔截至 2021 年 3 月 19 日的测试。2 节点，2* 英特尔® 至强® 铂金 8269C 处理器，26 核，超线程开启，睿频开启，总内存192GB (12 插槽/ 16 GB/ 2933 MHz)，BIOS：SE5C620.86B.02.01.0013.121520200651(0x4003003)，CentOS 8.3，4.18.0-240.1.1.el8_3.x86_64，编译器：gcc 8.3.1，Transformer 模型，深度学习框架：PyTorch 1.7.1，https://download.pytorch.org/whl/cpu/torch-1.7.1%2Bcpu-cp36-cp36m-linux_x86_64.whl，BS=1，客户数据，26 个实例/2 插槽，数据类型：FP32/INT8

新配置：英特尔截至 2021 年 3 月 19 日的测试。2 节点，2* 英特尔® 至强® 铂金 8369B 处理器，32 核，超线程开启，睿频开启，总内存 512 GB (16 插槽/ 32GB/ 3200 MHz)，BIOS: WLYDCRB1.SYS.0020.P92.2103170501 (0xd000260)，CentOS 8.3，4.18.0-240.1.1.el8_3.x86_64，编译器：gcc 8.3.1，Transformer 模型，深度学习框架：PyTorch 1 . 7 . 1，https://download.pytorch.org/whl/cpu/torch-1.7.1%2Bcpu-cp36-cp36m-linux_x86_64.whl，BS=1，客户数据，32 个实例/2 插槽，数据类型：FP32/INT8

所有性能数据均为实验室环境下测试所得。