HBM高带宽存储与传统SRAM、SDRAM的特点

最新推荐文章于 2025-03-12 08:46:27 发布

青城扬沙

最新推荐文章于 2025-03-12 08:46:27 发布

阅读量2.4k

点赞数 1

分类专栏：人工智能芯片文章标签： fpga开发

本文链接：https://blog.csdn.net/u010817806/article/details/133177255

版权

RAM主要分为两类：SRAM（Static RAM）、DRAM（Dynamic RAM）。

其中，SRAM的S是Static的缩写，全称是静态随机存取存储器；而DRAM的D是Dynamic的缩写，全称是动态随机存取存储器。

SRAM的存储密度相对较低，每个存储单元通常需要6个晶体管；由于DRAM采用了电容存储结构，每个存储单元只需要一个电容和一个访问晶体管，因此DRAM的存储密度较高。

DRAM（Dynamic RAM）是指动态随机存取存储器。与SRAM最大的不同是，DRAM需要通过刷新操作来保持其存储的内容。下面，我们先来看看其一个bit存储单元（Cell）的结构：

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

青城扬沙

关注关注

1
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

HBM（高带宽内存）、GDDR SDRAM（图形双倍速率同步动态随机存储器）

06-20

5284

经历了几年的高速发展之后，人工智能（简称AI）不再是新鲜的名词，它已经作为一个重要的生产工具，被引入到我们工作和生活的多个领域。但在AI爆发的背后，随之而来的是对AI算力需求的暴增。据OpenAI的一份报告显示，从2012年到2019年，人工智能训练集增长了30万倍，每3.43个月翻一番，但如果是以摩尔定律的速度，只会有 12 倍的增长。为了满足AI算力的需求，从业人员通过设计专用的AI芯片、重配置硬件和算法创新等多方面入手来达成目标。AI算力需求增长然而在此过程中，我们除了看到AI对算力的要求以外，内存带

DDR/HBM寻址与地址交织

cy413026的博客

04-19

1693

对于HBM来说没有rank DIMM的概念，但是有channel的区分，HBM内部的多层die和bank可以组成不同的channel【HBM里面的channel可能不是由完整的层组成，比如HBM3有12层，但是有64个channel，每个channel有16bit】。对于bank，rank，dimm级别的交织，基本上就随着多颗ddr颗粒的组织形式和物理地址与BG(Bank group addr)，BA(bank addr)的关系就确定了。channel的位宽，和burst概念及关系?

参与评论您还未登录，请先登录后发表或查看评论

HBM3内存子系统传输速率惊人，带宽突破1TB/S！

CSDN云计算

09-01

2456

记者 | 邓晓娟 8月25日，内存IP厂商Rambus推出HBM3内存接口子系统。内含完全集成的PHY和数字控制器，传输速率达8.4Gbps；可为AI/ML和高性能计算（HPC）等应用和解决方案提供1TB/s的带宽速率；采用标准的16通道设置，可达到1024位宽接口，实现更高的颗粒度，相比当前高端HBM2E内存子系统高出两倍以上；同时，Rambus的HBM3还支持2、4、8、12和16 HBM3 DRAM堆栈，信道密度达32Gb。一、在数据传输速率、带宽、密度上都有独特优势，不仅仅是更小的尺寸

存储技术全解析：从芯片到系统 DRAM、SRAM、HBM、ROM、NOR Flash、NAND Flash、eMMC、UFS

最新发布

kanhao100的博客

03-12

2869

在计算机和嵌入式系统中，各种存储技术扮演着不同的角色，它们的性能特点和应用场景各不相同。很多人对DRAM、SRAM、HBM、ROM、NOR Flash、NAND Flash、eMMC、UFS 等术语感到困惑，不清楚它们之间的区别和关系，以及哪些是片上存储，哪些是片外存储。本文将系统地解析这些存储技术，并以树莓派和x86个人电脑为例，说明它们在实际系统中的应用。

一文读懂高带宽内存家族：HBM、HBM2、HBM3

sunly31489的博客

01-22

3473

在 NVIDIA 的 A100 GPU 中，HBM2 的运用使得它在处理大规模数据和复杂计算任务时，能够快速地从显存中读取和写入数据，大大提高了计算效率，为深度学习、科学计算等领域的应用提供了强有力的支持。可以说，HBM2 的出现，为 GPU 和高性能计算领域的发展注入了强大的动力，推动了这些领域不断迈向新的高度。带宽上，HBM3e 大幅提升，部分产品带宽能突破每秒 1.2TB，相比 HBM3，如同在十六条车道的高速公路上新增应急车道，拓宽数据传输通道，保障大规模数据快速处理。

Transformer模型体积惊人，动辄GB起，这需要芯片上的L2缓存大增，数据中心这一级也要用HBM——HBM学习总结

Hali_Botebie的博客

02-21

1572

HBM ：High Bandwidth Memory 高带宽存储器主要作为GPU显存芯片（一般在高端产品中，比如nv面向数据中心的GPU，A100），也作为部分CPU的内存芯片（目前HPC芯片中有应用到，富岳中的A64FX）HBM将多个DDR芯片堆叠在一起，所以也是个3D结构；每个die之间通过TVS和microbump方式连接；除了堆叠的DRAM die以外，下层会有个HBM控制器逻辑die。

SRAM

风雨里的博客

08-25

888

SRAM是英文Static RAM的缩写，它是一种具有静止存取功能的内存，不需要刷新电路即能保存它内部存储的数据。而DRAM（Dynamic Random Access Memory)每隔一段时间，要刷新充电一次，否则内部的数据即会消失，因此SRAM具有较高的性能，但是SRAM也有它的缺点，即它的集成度较低，相同容量的DRAM内存可以设计为较小的体积，但是SRAM却需要很大的体积，所以在主板上SR

SDRAM工作原理与应用详解

此外，新的内存技术如GDDR（图形用DDR）和HBM（高带宽内存）针对特定应用提供了更高的带宽和更低的延迟。总结来说，SDRAM作为DRAM的一种，其同步特性、多Bank设计和不断提升的性能使其在现代计算机系统中扮演着...

SDRAM详解：结构、接口与特性

此外，低功耗DRAM（LPDDR）和高带宽内存（HBM）也是近年来的热门发展方向，它们在移动设备和高性能计算领域有着广泛的应用。 SDRAM作为现代计算系统的关键组件，其性能直接影响着系统的运行速度和稳定性。理解SDRAM...

【存储系统演进】：从SRAM到DRAM，存储技术的革命性变革

[【存储系统演进】：从SRAM到DRAM，存储技术的革命性变革](https://i0.wp.com/semiengineering.com/wp-content/uploads/2018/02/Lam_Tech_Brief_MemoryBasics_Fig1.jpg?ssl=1) # 1. 存储系统的基本概念与分类 ## ...

HBM、HBM2、HBM3和HBM3e技术对比

m0_71832273的博客

04-07

2906

三大存储原厂主要承担DRAMDie的生产及堆叠，展开技术升级竞赛，其中SK海力士与AMD合作发布全球首款HBM，23年率先供应新一代HBM3E，先发奠定市场地位，主要供应英伟达，三星供应其他云端厂商，根据TrendForce数据，2022年SK海力士市占率50%、三星市占率40%、美光市占率10%左右，2023年SK海力士市占率预计为53%，三星市占率38%、美光市占率9%。，作为GDDR竞品，为4层die堆叠，提供128GB/s带宽，4GB内存，显著优于同期GDDR5。以上内容来自智能计算芯世界。

Flash Attention

weixin_42264784的博客

11-26

551

因为SRAM利用晶体管存储数据，而HBM则是通过堆叠DRAM芯片实现高带宽和容量。然而，在实际应用中，由于HBM的堆叠设计和高速串行接口，其整体性能仍然非常出色。：HBM通过堆叠多个DRAM芯片实现了更高的容量和带宽，而SRAM的。因此，在需要处理大规模数据集和复杂计算任务的应用中，HBM更具优势。

英伟达的GPU(4)

周博洋的博客

06-08

1082

绿色的HBM（Device memory），由于操作系统也不在CPU那边，所以比如你要是训练，或者推理时候读取数据，模型，还得从能掌管IO的CPU的内存那边拿数，CPU的内存和HBM显存之间想通信，一般是经过PCIE，这个图有点老，PCIE还显示6.4Gbps, 实际上现在的PCIE Gen5都15.6G了，下一代Gen6能到256。一级在SM内部，纯粹的片上片，所以虽然两个缓存都是SRAM，但是大小区别很大，因为就近的和tensor core或者cuda core通信，所以L1那边也是速度起飞。

存储器简介

weixin_30716725的博客

05-31

207

ROM和RAM指的都是半导体存储器，ROM是Read Only Memory的缩写，RAM是Random Access Memory的缩写。ROM在系统停止供电的时候仍然可以保持数据，而RAM通常都是在掉电之后就丢失数据，典型的RAM就是计算机的内存。 R...

为你的系统选择什么样的Memory(SRAM/DRAM/HDM)

ilearn的博客

04-11

980

尽管多年来一直预测DRAM将被其他类型的内存所取代，但它至今仍然是几乎所有计算芯片中必不可少的组件。DRAM的足迹没有消失，而是一直在增加，DRAM类型的选择也在增加。有几个因素推动了这种增加：系统（特别是对于 AI/ML 和数据中心应用）中算力需求在增长，更快地处理更多数据。系统中更多的内核需要更多的内存，因为总得需要有一个地方来存储和处理数据。通常，其中大部分将在cache中处理，SRAM一直...

Line Buffer概述

2301_76660661的博客

05-12

2003

buffer在芯片物理上一般指的是SRAM，也可以指寄存器组。buffer的作用是用来在逻辑芯片上暂时存储数据，但不会是大量的数据。如果是大量数据一般会使用DRAM（典型的指DDR）作为存储芯片，用来存储大密度数据。line buffer可以理解为是存储数据结构为line方式的SRAM，主要用来存储二维行列数据中的行数据，最典型例子的就是图像的一行像素。

SRAM理论基础

weixin_45171209的博客

03-16

8890

静态随机存取存储器（Static Random Access Memory，SRAM）是随机存取存储器的一种。所谓的“静态”，是指这种存储器只要保持通电，里面存储的数据就可以恒常保持[1]。相对之下，动态随机存取存储器（DRAM）里面所存储的数据就需要周期性地更新。然而，当电力供应停止时，SRAM存储的数据还是会消失（被称为易失性存储器），这与在断电后还能存储资料的ROM或闪存是不同的。设计 SRAM由存储矩阵、地址译码器和读写控制电路组成,容量的扩展有两个方面:位数的扩展用芯片的并联，字数的扩展可用外加

Choosing between DDR4 and HBM in memory-intensive applications

hungtaowu的博客

10-31

439

原文链接：https://www.techdesignforums.com/practice/technique/choosing-between-ddr4-and-hbm-in-memory-intensive-applications/ Exploring the tradeoffs between implementing DDR4 and HBM for high-bandwidth memory subsystems. It has always been a battle to balanc