Amazon Graviton4上线，实力如何？-CSDN博客

编者按：

基于自研Amazon Graviton4处理器的Amazon EC2 R8g实例正式可用，意味着亚马逊云科技的客户现在可以广泛地部署新一代实例，以利用它们的高性能和优化的成本效益。这一里程碑式的进步，将如何重新定义我们对云服务的期待与想象？

Arm 架构处理器在云计算领域逐渐受到青睐的原因主要包括其能效优势和成本效益。Arm处理器通常具有较低的功耗，这对于大规模的数据中心来说，可以节省大量的能源成本。此外，随着技术的发展，Arm处理器的性能也在不断提升，能够满足云计算中多种工作负载的需求。

专为云工作负载而生的Amazon Graviton系列处理器,首款产品在2018年发布，历经4轮迭代，不仅成就了亚马逊云科技Arm服务器的霸主地位，更为生成式AI发展夯实了基础设施新底座。

Amazon Graviton4与R8g强强联合

性能飞跃新篇章

2023 re:Invent大会上宣布Amazon Graviton处理器再次升级，也就是Amazon Graviton4，半年后的今天，基于Amazon Graviton4的R8g实例正式可用。

据悉，Amazon Graviton4处理器搭载96个Neoverse V2核心，每个核心都配备了高达2MB的L2缓存，同时集成了12个DDR5-5600通道，从而确保了数据的高速传输与处理。相较于前代Graviton3处理器，Graviton4在性能上实现了质的飞跃，独立核心数量增加50%以上，内存带宽提升高达75%，专为内存密集型应用而生，该芯片集成了730亿个晶体管，可为云服务提供了前所未有的强大动力。

从 Graviton 到 Graviton4，亚马逊云科技已经累计交付了超过200万颗 Graviton 芯片。

亚马逊云科技计算和网络副总裁 David Brown 表示：“我们的芯片设计重点放在对客户重要的实际工作负载上，我们能够为他们提供最先进的云基础设施。” “Graviton4 标志着我们在短短五年内推出的第四代芯片，是我们为广泛的工作负载打造的最强大、最节能的芯片。”

而基于这款高性能处理器的Amazon EC2 R8g实例，与采用Graviton3的R7g实例相比，R8g实例在整体性能上提升了高达30%。这一显著的性能提升，得益于Graviton4处理器的强大性能和优化的系统设计。此外，R8g实例还提供了更大的实例规格，包括高达48xlarge的选项，其虚拟处理器（vCPU）数量和内存也分别可提升至惊人的192个 1.5TB，这一规格是R7g实例的三倍，为数据库、实时大数据分析等场景带来革命性的效率提升，应对各种复杂应用场景时更加得心应手。

Amazon Graviton4与R8g的强劲上线，不仅仅体现在Graviton4性能提升，R8g更大的实例规格以及高达50Gbps的增强网络带宽和高达40Gbps的Amazon EBS带宽，更表现在基于Amazon Nitro System构建的R8g实例，将CPU虚拟化、存储和网络功能卸载到专用硬件和软件上，从而提升性能并增强安全性。同时还具备更广泛的软件支持、更好的资源优化效率和更加友好的环境支持以及全球可用。

除此之外需要特别强调的是，亚马逊云科技通过Graviton4的推出，并持续推动包括机器学习在内的其他领域的芯片发展，如Amazon Trainium2和Amazon Inferentia2芯片，从而驱动生成式AI的每一步。

Amazon Graviton 处理器受到许多热门的操作系统、ISV 和亚马逊云科技合作伙伴支持，基于 Amazon Graviton 的实例也可用于热门的托管亚马逊云科技服务，例如 Amazon Aurora、Amazon RDS 和 Amazon EKS。同时，亚马逊云科技拥有庞大的云计算生态系统，包括丰富的工具、服务和应用程序。因此，在提供出色性能的同时节省大量成本，满足客户不同应用场景的需求。

据统计，超过150种计算实例及众多托管服务在 Graviton 的驱动下运转自如，惠及全球逾5万用户的数字化转型之路，这使得开发者能够更轻松地在Graviton4芯片和R8g实例上进行开发和部署，充分发挥其性能优势。亚马逊云科技的众多客户如SAP、Epic Games和SmugMug等已经从使用基于Amazon Graviton4的实例中受益。这种广泛的应用和验证使得Graviton4与R8g的联合更具可靠性和稳定性。

因此，基于Amazon Graviton4的R8g正式可用，为企业数字化转型提供了更加强大的引擎，预示着一个更智能、更绿色、更高效的云计算时代的到来。

助力企业数字化转型与创新发展

开启云服务新时代

随着数字化转型的深入推进，企业对云服务的需求也日益增长。在这一背景下，亚马逊云科技新一代Amazon Graviton4处理器和Amazon EC2 R8g实例的推出，将为企业提供更为强大的计算支持和更高效的云服务体验。

“Amazon Graviton4 实例是我们测试过的最快的 EC2 实例，它们在我们最具竞争力和延迟敏感的工作负载中提供了出色的性能。” Epic 首席云工程师 Roman Visintine 表示：“我们期待使用 Graviton4 来改善玩家体验并扩展《堡垒之夜》的可能性。”

更为可贵的是，基于CPU的一些机器学习和推理任务非常适合Graviton。

虽然 GPU 和加速器凭借优异的性能，一直是这些部署任务的默认首选平台，但在推理领域，除了 GPU 和加速器之外，CPU 一直被用于传统的 AI 和机器学习 (ML) 用例。

CPU利用单指令多数据流(SIMD)技术，即单指令同时处理多个数据点，实现数据级并行和性能提升。Arm Neoverse CPU支持Neon和SVE等SIMD技术，加速HPC和ML算法。通用矩阵乘法(GEMM)是ML基础算法，涉及复杂矩阵乘法运算。Armv8.6-A架构新增SMMLA和FMMLA指令，能在更宽阵列上并行执行，显著缩短取指和计算周期，而Amazon Graviton4/3就支持这些指令。

这使得图像分类、对象检测、自然语言处理、自动语音识别、推荐系统、小语言模型等用例中，Amazon Graviton可为 ML 带来诸多优势。

深究其原因，除了性能提升、能效优势、成本效益之外，还有非常关键的一条是与云计算资源和环境高度融合，比如亚马逊云科技提供了多种基于Graviton的实例类型，这些实例可以根据具体的机器学习工作负载需求进行选择，无论是需要大量内存的模型还是需要高计算能力的训练任务。为机器学习和推理任务提供便捷、高效的计算环境和支持。

对于处理内存密集型工作负载如数据库、内存缓存和实时大数据分析等任务来说，R8g实例其强大的性能和超高的资源配置，使得企业在处理这些复杂任务时能够更加高效、稳定。

随着数字化转型的深入推进，企业对云服务的需求也日益增长。在这一背景下，亚马逊云科技新一代Amazon Graviton4处理器和Amazon EC2 R8g实例的推出，无疑为企业提供了更为强大的计算支持和更高效的云服务体验。