使用aws跑深度学习_AWS：机器深度学习的下一代GPU案例

P4d增加了用于高性能计算的英特尔Cascade Lake CPU和Nvidia GPU

AWS 针对机器学习 和高性能计算(HPC)工作负载推出了最新的配备GPU的实例 。

称为 P4d的新实例是第一个GPU实例发布十年后的十年。它们具有Intel Cascade Lake处理器和Nvidia的八个A100 Tensor Core GPU。它们通过NVLink连接并支持 Nvidia GPUDirect，并提供2.5 PetaFLOPS的浮点性能和320GB的高带宽GPU内存。

AWS声称这些实例提供的深度学习性能是P3实例的2.5倍，并且培训成本最多可降低60％。

此外，P4实例包括1.1TB的系统内存和8TB的基于NVME的SSD存储，每秒的读取吞吐量高达16 GB。这些实例可以将4,000多个GPU组合到按需EC2 UltraCluster中。

AWS为这些实例吹捧的用例包括超级计算机规模的机器学习和 HPC 工作负载：自然语言处理，对象检测和分类，场景理解，地震分析，天气预报，财务建模等。

P4实例有一个大小(p4d.24xlarge)，可以立即在美国东部(弗吉尼亚北部)和美国西部(俄勒冈)地区启动。

在已经使用P4实例的公司中，包括丰田研究院(TRI)，GE Healthcare和Aon。

TRI基础设施技术主管Mike Garrison表示：“在TRI，我们正在努力打造一个每个人都可以自由移动的未来。

“上一代的P3实例帮助我们将训练机器学习模型的时间从几天缩短到了几小时，我们希望利用P4d实例，因为额外的GPU内存和更有效的float格式将使我们的机器学习团队可以进行更多的训练复杂模型，甚至更快。”

它的按需价格将为每小时32.77美元，对于一年保留实例，每小时约为20美元，对于三年保留实例，每小时约为11.57美元。