【万字长文】AMD Instinct MI300详细解析：超微半导体的光辉时刻

美国时间6月13日，AMD在美国加利福尼亚州旧金山举行了一场名为“数据中心与AI技术首演”的活动，并在主题演讲中介绍了数据中心的解决方案。

其中，宣布推出“AMD Instinct MI300系列加速器”（以下简称Instinct MI300系列），作为新型数据中心的GPU/APU。 发布GPU“AMD Instinct MI300X”（以下简称MI300X）和APU“AMD Instinct MI300A”（以下简称MI300A）。 每款产品均采用 3D Chiplet 技术，并采用独特的架构，通过仅加载 GPU 或混合两种类型的 CPU 和 GPU 来配置 GPU 和 APU。

同时，我们宣布了“AMD Instinct Platform”作为AI计算平台，配备了8个Instinct
300系列，以及NVIDIA提供的“DGX H100”等AI学习平台，配备了8个该公司的GPU。成为计算机领域具有竞争力的产品

AMD认真地在数据中心的AI GPU市场追赶NVIDIA……这是我看完《数据中心与AI技术首秀》主题演讲后的坦白印象。

直到现在，AMD 已经发布了 Instinct 系列作为数据中心的 GPU，但现实是，我并不认为他们在使用 GPU 的 AI 学习市场上与 NVIDIA 进行了认真的竞争。

当然，传统的“Instinct MI200”系列可能是第一款采用chiplet技术并在一个封装上集成两个GPU芯片的GPU，表现出比传统产品更高的性能，我本来是这么想的

该软件包还采用了作为行业标准指定的OAM（OCP加速器模块），并且可以使用它进行扩展。 然而，使用 MI200 系列可扩展至 8 个 GPU 的设备迄今为止尚未以广泛可用的形式出现。

在本次主题演讲的最后，AMD董事长兼首席执行官苏姿丰透露了一个名为“AMD Instinct Platform”的平台，最多可搭载8个Instinct MI300系列。 换句话说，这就像是提供给OEM和ODM厂商的“参考设计”。未来，通过向OEM和ODM厂商发布规格，我们将创建八个Instinct MI300系列，使轻松构建GPU服务器成为可能配备有

在Instinct平台中，八个Instinct MI300通过AMD的芯片到芯片连接技术Infinity Fabric互连（所需数量的Infinity Fabric由每个GPU芯片上实现的Infinity Fabric支持）。 与NVIDIA的DGX系列不同，它不需要外部NVLink Switch芯片，因此可以以相对较低的成本扩展到8个GPU（如果要配置9个以上，可以使用InfiniBand、以太网等进行横向扩展。 ）。

这些参考设计的目标很明确，就是与NVIDIA提供的DGX H100和DGX A100等“AI超级计算机”竞争。 NVIDIA提供H100 GPU（Hopper）和A100 GPU（Ampere）作为PCI Express卡，但同时也以NVIDIA自己的标准模块（称为SXM）的形式提供它们（开放标准版本是OAM，被AMD和AMD采用） Intel），其中 8 个安装在 DGX 系列中，例如 DGX H100 和 DGX A100。

AMD的Instinct平台是AMD自己设计的一款产品，用于与DGX系列竞争，提供给OEM/ODM厂商，而对于OEM/ODM厂商来说，客户被NVIDIA产品的价格所说服，它可以为那些需要做的客户提出新的选择。没有，也可以成为与NVIDIA谈判“NVIDIA的GPU贵吗？”的“利器”。

Instinct MI300系列就是构成这样一个Instinct平台的GPU/APU。 Instinct MI300系列准备了两款产品，分别是GPU的MI300X和APU（CPU+GPU）的MI300A。

这两款产品的特点是均采用3D Chiplet技术制作。 IOD，即基础芯片，层叠在表面可见的CPU和GPU芯片下方，需要散热的CPU和GPU芯片层叠在其上方。

此外，最大容量为192GB的HBM3以围绕CPU/GPU芯片的形式安装。 在使用3D小芯片方面，可以说其结构类似于英特尔去年发布的Intel Data Center GPU Max中宣布的“Ponte Vecchio”。 然而，它的结构比老桥更简单，并且人们认为MI300X在易于制造方面更胜一筹。