英特尔发布了性能最强的新一代Gaudi3 Al算力加速芯片

英特尔发布的性能最强的新一代Gaudi 3 AI加速芯片具有显著的性能提升和多项优势。以下是关于该芯片的详细信息和特点：

1. 性能提升：
   • 与NVIDIA H100 GPU相比，Gaudi 3在推理速度上提高了50%，效率提高了40%。
   • 在算力训练性能方面，与NVIDIA H100相比，Gaudi 3提高了170%。
   • FP8 AI计算性能是上一代产品的2倍，BF16 AI计算性能是上一代产品的4倍。
   • 网络带宽是上一代的2倍，内存带宽是上一代的1.5倍。
2. 技术规格：
   • Gaudi 3提供64个第五代张量处理核心和8个矩阵计算引擎。
   • 搭载128GB速率达3.7TB/s的HBM内存和96MB速率达12.8TB/s的SRAM。
   • 连接方面支持24条的200GbE符合RoCE标准的以太网总线以及最高16条PCIe 5.0总线。
3. 产品形态：
   • Gaudi 3提供Mezz卡、板载和PCIe三种形态。
   • 板载版本Gaudi 3型号为HLB-325，由八颗Gaudi 3 Mezz卡组成，提供14.6PFLOPS FP8性能。
   • PCIe版本型号为HL-338，提供单卡1835TFLOPS FP8峰值性能。
4. 上市时间：
   • Gaudi 3预计于2024年第三季度全面上市，但样品已经发货给客户。
5. 市场影响：
   • Gaudi 3的发布对英伟达的市场地位构成挑战，英特尔的股价在发布后有所上涨，而英伟达股价则下跌。
6. 战略意义：
   • Gaudi 3 AI加速器旨在为企业推进生成式AI创新提供高性能、开放性和灵活性的解决方案。
   • 英特尔通过推出Gaudi 3等产品和解决方案，正在将AI技术引入千行百业，以满足客户和合作伙伴不断变化的需求。

综上所述，英特尔发布的Gaudi 3 AI加速芯片在性能、技术规格、产品形态等方面均展现出显著的优势，有望成为企业推进生成式AI创新的重要工具。