GPU的工作原理

最新推荐文章于 2025-04-12 08:53:53 发布
最新推荐文章于 2025-04-12 08:53:53 发布
阅读量1.2k 收藏 33
点赞数 14
文章标签： gpu算力 NVIDIA GPU的工作原理
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/JiajunSun/article/details/139721510
版权

location: Beijing

1. why is GPU

CPU的存储单元和计算单元的互通过慢直接促进了GPU的发展
先介绍一个概念：FLOPS（Floating Point Operations Per Second，浮点运算每秒）是一个衡量其执行浮点运算的能力，可以作为计算机性能的指标。所以人们买计算机是往往关心一下计算机有多少FLOPS
然而，计算机性能可能是过剩的？下图是CPU与DRAM的关系
在这里插入图片描述

Fig. 1.1 计算机存算架构

DRAM每秒把200GB的数据，也就是把25,000,000,000个FP64类型的浮点数传输给CPU；CPU每秒可以计算2,000,000,000,000个FP64类型的浮点数。可以看出，CPU可处理数据的能力是DRAM传输能力的80倍（这种比值有个专业术语：计算强度），除非我们的程序对每个数据都做80次运算，否则CPU的算力总是过剩的

所以从这里可以看出，大部分时间，计算机运行程序的速度并不取决于CPU的计算能力，而是DRAM与CPU传输数据的时间延迟（latency）

以一段测试程序daxpy函数为例：
在这里插入图片描述

Fig. 1.2 存取速度测试程序

这里我们默认alpha存在CPU的缓存中，数组x和y存在DRAM中。当程序执行时，我们用甘特图看看程序的执行：
在这里插入图片描述

最低0.47元/天 解锁文章
十年伴树
关注
GPU工作原理分析资料.pdf
07-23
In the early 1990s, ubiquitous interactive 3D graphics was still the stuff of science fiction. By the end of the decade, nearly every new computer contained a graphics processing unit (GPU) dedicated to providing a high-performance, visually rich, interactive 3D experience. This dramatic shift was the inevitable consequence of consumer demand for videogames, advances in manufacturing technology, and the exploitation of the inherent parallelism in the feed-forward graphics pipeline. Today, the raw computational power of a GPU dwarfs that of the most powerful CPU, and the gap is steadily widening. Furthermore, GPUs have moved away from the traditional fixed-function 3D graphics pipeline toward a flexible general-purpose computational engine. Today, GPUs can implement many parallel algorithms directly using graphics hardware. Well-suited algorithms that leverage all the underlying computational horsepower often achieve tremendous speedups. Truly, the GPU is the first widely deployed commodity desktop parallel computer.
显示卡的“心脏” GPU工作原理介绍
01-19
图形处理器(英语：Graphics Processing Unit，缩写：gpu)，又称显示、视觉处理器、显示芯片，是一种专门在个人电脑、工作站、游戏机和一些移动设备(如平板电脑、智能手机等)上图像运算工作的微处理器。  用途是将...
CPU GPU设计工作原理
专心-超越
11-13 5661
要说到设计的复杂程度，那还是CPU了！这个不用讨论，很简单的道理你看看显卡芯片的更新速度和CPU的更新速度就可见一斑了。还是简单说说他们的设计原理吧。 CPU:       但是，现在我要问一句：“什么是CPU？”我相信大多数人并不知道什么是CPU。当然，你可以回答CPU是中央处理器，或者来一句英文： Central Processing Unit。是的，没错。但，RISC和CISC是什么？什
这篇GPU学习笔记，详细整理了其工作原理、编程模型和架构设计
最新发布
机器学习社区
04-12 813
在这里作者要做一个简单的说明，现代的GPU架构，先不论不同厂家，仅NVIDIA一家就有数十年的架构迭代史，其中涉及的各种优化改进，限于篇幅，本文不可能一一介绍。但是，要想完整了解整个GPU架构的发展，作者认为可以分两步走：以NVIDIA为例，就是“从0到Fermi“，和”从Fermi到Blackwell“。Fermi架构是现代通用GPU架构的基石，其中许多核心设计思想传承至今，而此后直到作者撰文的2025年最新的Blackwell架构，都可以看做在基础上的一路迭代。
GPU的介绍 以及原理的分析
热门推荐
u013165704的博客
06-04 3万+
1 GPU是什么      如图1所示，这台PC机与普通PC机不同的是这里插了7张显卡，左下角是显卡，在中间的就是GPU芯片。显卡的处理器称为图形处理器（GPU），它是显卡的“心脏”，与CPU类似，只不过GPU是专为执行复杂的数学和几何计算而设计的。      GPU计算能力非常强悍，举个例子：现在主流的i7处理器的浮点计算能力是主流的英伟达GPU处理器浮点计算能力的1/12。图1 显卡与GPU2...
从山峰渲染了解GPU图形流水线
痞子龙3D编程
12-15 2968
<br /> ● 从山峰渲染了解GPU图形流水线<br />    在这一部分，笔者将和大多数初识GPU的爱好者一道探寻GPU的渲染步骤，我们使用一座山峰的渲染历程来帮助大家简单理解GPU图形流水线的工作原理。简单的说：GPU主要完成对3D图形的处理——图形的生成渲染。<br /><br /><br />从山峰渲染看GPU图形流水线<br />    1、顶点生成<br />    图形学API（应用程序接口）用最初级的图元（点、线、三角形）来表示物体表面。每个顶点除了（x,y,z）三维坐标属性外还有应用程
GPU工作原理与理解
Evankaka的专栏
07-27 1万+
GPU英文全称Graphic Processing Unit，中文翻译为“图形处理器”。
GPU工作原理---笔记
qq_41914687的博客
09-17 2524
cuda设计者之一讲解gpu设计原理，笔记
消费电子中的显示卡的“心脏” GPU工作原理介绍
10-15
在消费电子设备中，如个人电脑、工作站、游戏机和移动设备（如平板电脑、智能手机），GPU扮演着至关重要的角色。它是显卡的核心组件，负责将计算机系统中的显示信息转化为驱动信号，向显示器提供必要的行扫描信号，...
GPU工作原理简介.docx
05-21
### GPU工作原理简介 #### 一、GPU的诞生与演进 随着计算机图形技术的不断发展，传统的图形加速器已经无法满足高性能图形处理的需求。在这一背景下，GPU（Graphics Processing Unit，图形处理器）应运而生。1999年...
GPU工作原理
shirleycyy的博客
04-15 1475
从硬件和运算策略角度详解GPU工作原理：显存、多核、高宽带、高线程比
csdnouioui的博客
07-29 3309
GPU拥有显存、多核、高宽带、高线程。相比CPU，这些硬件配置和运算策略使GPU实现高并行度的图形图像运算。
GPU 工作原理
Bedoom的博客
10-27 552
随着 LLM 的不断发展，算力成为一个非常热门的话题，尤其在前段时间4090禁止出售给中国的时候。说到算力，不免要讨论一下 GPU。虽然大家都用着 GPU ，但真正了解 GPU 工作原理的人并不多。本篇文章将会从 GPU 底层架构出发告诉你 GPU 是如何进行并行计算的。
深度学习中GPU的原理与应用方法
hello.reader
09-19 2873
在深度学习的蓬勃发展中，GPU 的引入和广泛应用起到了至关重要的作用。本文深入探讨了 GPU 与 CPU 的架构差异，详细解析了 GPU 的并行计算原理、内存架构，以及在深度学习中的优化方法。通过实践案例，我们看到了 GPU 对于加速模型训练、支持大规模模型和数据处理的显著效果。在应用方面，了解硬件选择与配置、熟练掌握深度学习框架的 GPU 支持、有效运用数据并行和模型并行策略，以及掌握混合精度训练和性能优化技巧，都是提升深度学习模型训练和推理效率的关键。
GPU 硬件原理架构（一）
生活需要深度
07-05 7254
为了简单起见，我们做一些假设。我们假设已经填充了数据并存在于 GPU 的 DRAM 中，并且在整个流程中仅使用VS和PS。GPU图形处理，可以大致分成 5 个步骤，如下图箭头的部分。分别为 vertex shader、primitive processing、rasterisation、fragment shader、testing and blending。第一步，vertex shader。是将三维空间中数个（x,y,z）顶点放进 GPU 中。
GPU原理和应用
汤庆
05-13 3782
一、前言 区块链，深度学习发展迅猛，GPU登上了舞台。 二、GPU是什么？ GPU即 Graphics Process Unit，译为“图形处理器”。GPU是显示卡的核心部件，它决定了该显卡的档次和大部分性能，同时也是2D显示卡和3D显示卡的区别依据。今天的GPU不仅具备高质量和高性能图形处理能力，还可用于通用计算。今天，GPU已经不再局限于3D图形处理了，GPU通...
GPU（图形处理单元）：原理、应用与发展
2501_90359402的博客
01-19 543
GPU作为现代计算机中至关重要的硬件之一，已经超越了其最初的图形处理功能，广泛应用于科学计算、人工智能、大数据分析、自动驾驶等多个领域。GPU强大的并行计算能力，使其成为加速图像处理、深度学习训练、模拟和推理等任务的理想工具。随着技术的不断发展，GPU在未来的计算中将发挥越来越重要的作用，成为推动科技创新的关键力量。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值