HBM高带宽存储与传统SRAM、SDRAM的特点

RAM主要分为两类：SRAM（Static RAM）、DRAM（Dynamic RAM）。

其中，SRAM的S是Static的缩写，全称是静态随机存取存储器；而DRAM的D是Dynamic的缩写，全称是动态随机存取存储器。

SRAM的存储密度相对较低，每个存储单元通常需要6个晶体管；由于DRAM采用了电容存储结构，每个存储单元只需要一个电容和一个访问晶体管，因此DRAM的存储密度较高。

DRAM（Dynamic RAM）是指动态随机存取存储器。与SRAM最大的不同是，DRAM需要通过刷新操作来保持其存储的内容。下面，我们先来看看其一个bit存储单元（Cell）的结构：

SDRAM（Synchronous Dynamic Random Access Memory）是一种计算机内存类型，它的工作方式与传统的DRAM（Dynamic Random Access Memory）不同。在SDRAM的时钟频率与CPU前端总线的系统时钟频率相同，并且内部的命令发送和数据传输都以系统时钟频率为基准。

自动刷新（AUTO REFRESH）是由于DRAM存储单元中的电荷会逐渐泄漏，因此需要定期刷新以保持存储的数据不丢失。SDRAM需要8192次自动刷新周期，每64毫秒（适用于商业级和工业级SDRAM），或每16毫秒（适用于汽车规格的SDRAM）。这是为了确保存储在SDRAM中的数据得到适时的刷新，以防止数据丢失或损坏。

SDRAM因其高速、同步操作和自动刷新等特性，适用于许多计算机和嵌入式系统中，以提供高性能的内存访问和数据存储。不同类型的SDRAM可能有不同的规格和要求，以满足各种应用的需求。

AI运算最关键之处是存储而非AI处理器本身，AI运算90%的功耗和延迟都来自存储或者说都来自数据的搬运。90%的工况下，AI处理器都在等待存储系统搬运数据，而运算系统所需要的时间几乎是可以忽略的，所以存储系统的好坏实际决定了真实的算力大小。

High Bandwidth Memory（HBM）是一种高性能的内存技术，常用于高端CPU和GPU中。它的设计目标是提供更高的内存带宽和更低的功耗，以满足高度并行的计算工作负载需求。HBM与传统DDR（Double Data Rate）内存相比具有以下特点：

1）堆叠设计： HBM的内存芯片是堆叠在一起的，而不是像DDR那样排列在一个平面上。这种堆叠设计允许更多的内存芯片连接到CPU或GPU，从而实现更高的容量和带宽。

2）高带宽： HBM提供了比传统DDR更高的内存带宽，这对于高性能计算、深度学习和图形渲染等应用非常重要。它可以满足处理大规模数据集和复杂计算任务的要求。

3）低功耗： HBM的堆叠设计还有助于降低功耗，因为数据传输的距离更短，通信更高效。这对于笔记本电脑和移动设备等需要节能的场景尤其重要。

4）紧凑封装：HBM内存芯片与CPU或GPU封装在同一个模块中，这种紧凑的封装有助于减小芯片的物理尺寸，使得高性能计算设备更加紧凑和便携。

2022年HBM市场份额中，SK海力士一家独大，独占50%，三星约40%，美光仅10%，且SK海力士是目前唯一量产HBM3的公司。