亚马逊自研arm服务器芯片,亚马逊发布Arm服务器芯片Graviton2：64核心，单核性能远超Intel至强铂金...

当地时间12月3日，亚马逊在“AWS re：invent”大会上正式发布了自主研发的第二代基于Arm架构的服务器芯片Graviton2，同时公布了去年发布的AI推理芯片Inferentia的最新进展。

Graviton2发布：64核心，单核性能远超Intel至强铂金

据亚马逊介绍，Graviton2芯片，由其云计算部门设计，基于64位Arm Neoverse内核，采用7nm工艺制造，64核心，每个核心1MB二级缓存，总计64MB，所有核心共享32MB三级缓存。64个核心采用网格总线(Mesh Fabric)互连互通，合并带宽高达2TB/s。支持八通道DDR4-3200内存，支持硬件AES-256内存加密，支持64条PCIe 4.0。

官方的数据显示，Graviton2计算核心数量是第一代的4倍，缓存是第一代的两倍，内存则是第一代的5倍，性能是第一代的7倍。

同时，亚马逊还推出了一系列基于Graviton2的第六代实例，包括M6g、R6g、C6g，配置不尽相同，最多256GB内存。

亚马逊还将其与配备Intel至强铂金(最高3.1GHz)的第五代实例进行对比，单核心性能全面领先：SPECjvm 2008 +43％(估计)、SPEC CPU 2017整数+44％(估计)、SPEC CPU 2017浮点+24％(估计)、HTTPS负载均衡+24％、内存缓存+43％(同时延迟更低)、x2664视频编码+26％、EDA模拟+54％！

亚马逊表示，Graviton2芯片在性能和处理能力方面较第一代有重大飞跃，利用这一芯片的EC2M6g、C6和R6g云服务，较第一代Graviton芯片的性价比最多可提升40%。

有了性能更强大的自研芯片，亚马逊云计算部门也就能利用自家芯片推出更优质的云计算服务，也能降低相关服务的成本。

据介绍，亚马逊Graviton2平台将在2020年规模上市。

云端AI推理芯片Inferentia

对于去年发布的云端AI推理芯片Inferentia，亚马逊也公布了其最新的进展。

亚马逊AWS推出了Inf1实例，该实例由Inferentia芯片提供支持，是一个在云端为AI推理提供支持的实例，AWS CEO Andy Jassy称之为云中可用的成本最低的推理产品。

Andy Jassy 指出：使用云服务为AI解决方案提供动力的运营成本绝大多数来自推理，而推理芯片可能会很昂贵，并且要求低延迟和高吞吐量。许多企业都在模型训练的定制芯片上投入了大量精力，尽管常规 CPU 上已经能够较好地执行推理运算，但定制芯片的效率明显更高。“与Nvidia G4实例相比，Inf1具有更低的延迟，吞吐量将提高3倍，并且每个实例的成本降低40％。”

Inferentia芯片还将由Annapurna Labs提供支持，该芯片企业是2015年被以色列AWS收购的。Inferentia芯片拥有4的个NeuronCore，可以提供128TOPS的算力，而每个Inf1实例可以提供2000 TOPS的算力。

与 EC4 上的常规 G4 实例相比，Inferentia 能够让 AWS 带来更低的延时、三倍的吞吐量、且降低 40% 单次的成本。

Inf1实例目前已经上市，并将与PyTorch，MXNet和TensorFlow集成。不过，目前其仅可在EC2计算服务中使用，但明年，Inf1将可以用于EKS实例和Amazon的SageMaker，来进行机器学习的推理运算。