【NPU 系列专栏 2.7 -- - NVIDIA GPU 架构介绍】

已于 2024-08-11 21:07:00 修改
阅读量797 收藏 28
点赞数 27
分类专栏： # 【NPU 学习专栏】 文章标签： 英伟达GPU架构
于 2024-07-28 11:11:15 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sinat_32960911/article/details/140748103
版权
【NPU 学习专栏】 专栏收录该内容
15 篇文章 1 订阅 ¥59.90 ¥99.00
订阅专栏


请阅读【嵌入式及芯片开发学必备专栏】

文章目录

NVIDIA GPU 架构介绍

英伟达（NVIDIA）是全球领先的图形处理单元（GPU）制造商，其推出了多种 GPU 架构，每一代架构都在性能和能效方面有显著提升。以下是英伟达主要 GPU 架构的详细介绍。

Tesla 架构 简介

Tesla 架构是英伟达第一代支持通用计算的 GPU 架构，标志着 GPU 从专用的图形处理器向通用计算加速器的转变。

Tesla 架构 主要特点

  • CUDA 支持：首个支持 CUDA（Compute Unified Device Architecture）的架构，允许开发者使用 C 语言编写并行程序。
  • 统一着色器：引入统一的着色器架构，简化了 GPU 的编程模型。
  • 高并发性：支持大量并发线程
了解本专栏 订阅专栏 解锁全文
主公讲 ARM
关注
专栏目录
订阅专栏
NVIDIA和AMD GPU硬件架构发展
zhang_shuaifeng的博客
01-28 2248
费米、开普勒、麦克斯韦、帕斯卡、伏特、图灵、安培、赫柏。Vega、Navi
大模型入门知识点（非常详细）零基础入门到精通，收藏这一篇就够了
youmaob的博客
07-29 2450
企业级大模型商业化产品通过构建包含前端界面、后端服务、模型服务等组件的应用架构，实现了用户与大模型的交互。用户在前端输入Prompt，前端发送请求至后端，后端调用模型服务与大模型进行Tokenization、模型推理、Decoding等操作，最后将结果返回给前端展示。整个过程涉及HTTP/HTTPS、RPC、消息队列等多种通信方式，以及前后端数据交换的JSON格式。具体的代码实现会根据选用的技术栈（如编程语言、框架、库等）有所不同。
GPU 调度策略架构与CUDA运行机制（二）
生活需要深度
07-15 1514
说到GPU估计大家都不陌生，但是提起gpu底层的一些架构以及硬件层一些调度策略的话估计大部分人就很难说的上熟悉了。当然这个不是大家的错，主要是因为Nv gpu的整个生态都是闭源的，所以大家了解起来就会有一些障碍。最近这半年笔者有幸参与了一些gpu的项目，在这个过程当中也花了一些时间去理了一下gpu相关的东西，故借这篇文章给大家简单介绍一下。下面的行文将基于以下三个层面进行阐述：CUDA编程模型GPU 底层硬件架构硬件层的调度策略gpu上的其他细节还有很多，笔者这篇文章就当作抛砖引玉了。
NVIDIA GPU 架构梳理
查理王的博客
03-19 1万+
文中图片大部分来自NVIDIA 产品白皮书 TODO：英伟达显卡型号梳理 目录： 一、NVIDIA GPU的架构演变历史 二、Tesla 架构 三、Fermi架构 四、Kepler架构 五、Maxwell架构 六、Pascal架构 七、Volta架构 八、Turing架构 九、Ampere架构 一、NVIDIA GPU的架构演变历史和基本概念[1] 截止2021年，发布时间离我们最近的8种NVIDIA GPU微架构是： Tesla (特斯拉) Fermi（费米） Kepler（开普勒...
显卡算力扫盲篇（三）
kcarly的专栏
10-29 4632
GPU 的核心架构及参数NVIDIA GPU 的核心参数的差别和各自的优势
NVIDIA GPU架构
gy笨瓜的博客
10-02 1000
本文主要为 1. NVIDIA GeForce 800系列GPU架构 2. GTX 1050Ti GPU架构 NVIDIA GeForce 800系列 GTX 1050Ti 型号 芯片代号 架构 GeForce 800M GF117 Fermi ...
英伟达发布全新GPU：采用图灵架构 支持光线追踪
网易智能
08-14 620
关注网易智能，聚焦AI大事件，读懂下一个大时代！【网易智能讯 8月14日消息】在近日于加拿大举行的SIGGRAPH 2018计算机图形与交互技术大会上，英伟达推出了最新的...
【NPU 系列专栏 3 -- - ARM NPU 系列介绍】
CodingCos的博客
07-27 795
ARM X 系列 NPU 是高性能的 AI 加速器，设计用于处理复杂的深度学习任务。X 系列 NPU 提供了强大的计算能力和灵活性，适用于高端智能手机、平板电脑和其他需要高效 AI 处理的设备。ARM Z 系列 NPU 是面向中低端市场的 AI 加速器，设计用于能效优化的 AI 处理任务。Z 系列 NPU 提供适中的计算能力和高能效比，适用于智能家居设备、物联网设备等。
【NPU 系列专栏 2.5 -- GPU 与 NPU 的区别】
CodingCos的博客
07-27 367
GPU 最初设计用于图形渲染和图像处理。近年来，由于其强大的并行计算能力，GPU 被广泛应用于通用计算领域，特别是深度学习和科学计算。GPU 特点并行计算能力：GPU 具有大量的计算核心，可以同时处理大量数据，特别适合并行计算任务。高吞吐量：GPU 的设计使其能够高效处理大规模数据吞吐，适合需要大量矩阵运算的任务。灵活性：可以通过编程实现各种计算任务，适用于图形渲染、深度学习、科学计算等多个领域。应用场景：图形渲染：游戏、动画、视频处理等。深度学习。
【NPU 系列专栏 2.6 -- - NVIDIA Xavier SoC】
CodingCos的博客
07-28 956
英伟达 Xavier SoC 是一款功能强大的系统级芯片，集成了多种处理单元，提供了高效的计算能力和丰富的应用场景。与其他厂商的 NPU 相比，Xavier SoC 具有更高的灵活性和丰富的生态系统支持，适用于多种复杂的 AI 和机器学习任务。通过详细的对比，可以看到 Xavier SoC 在自动驾驶、机器人、物联网和医疗设备等领域的广泛应用。Xavier SoC 集成了多个处理单元，包括 CPU、GPU 和 NPU（Neural Processing Unit），提供了强大的计算能力和高效的能效比。
【NPU 系列专栏 2.9 -- 国产GPU公司与创始人介绍】
最新发布
CodingCos的博客
08-16 545
如有侵权，请联系删除。
【大模型】 NVIDIA GPU 架构与性能解析：从V100到H100的进化之路
沐风—云端行者
07-16 1648
2022年发布的Hopper架构，代表了NVIDIA的第九代GPU架构，支持第四代Tensor Core，每个流多处理器（SM）的能力更强，进一步优化了计算能力、深度学习加速和图形功能。Ampere架构于2020年问世，是NVIDIA第八代GPU架构，它在计算能力、能效和深度学习性能方面取得了重大突破，引入了第三代Tensor Core，显著提升了深度学习的计算效率。发布于2017年的Volta架构，是NVIDIA的第六代GPU架构，它首次引入了Tensor Core，专门用于加速深度学习中的张量运算。
【Nvidia显卡知识】从架构和核心了解你的显卡
ueke1的博客
04-03 3283
Tensor Core是NVIDIA推出的一种专为深度学习和高性能计算优化的处理器核心，专门针对深度学习中的矩阵运算进行优化。通过不断的创新和优化，Tensor Core能够提供更高的性能、更高的能效比和更广泛的应用支持，从而推动深度学习和人工智能技术的发展。每一代架构都是NVIDIA针对当时的市场需求和技术挑战进行的创新和优化，不断推动着图形渲染、AI计算和高性能计算的发展。Pascal架构是NVIDIA在2016年推出的GPU架构，用于其GeForce、Quadro、Tesla系列的显卡。
【架构】GPU架构总结
qq_43543209的博客
02-25 4336
在之前的 SM 概览图以及上图里，可以注意到 SM 内有两个 Warp Scheduler 和两个 Dispatch Unit. 这意味着，同一时刻，会并发运行两个 warp，每个 warp 会被分发到一个 Cuda Core Group(16 个 CUDA Core), 或者 16 个 load/store 单元，或者 4 个 SFU 上去真正执行，且每次分发只执行 一条 指令，而 Warp Scheduler 维护了多个（比如几十个）的 Warp 状态。在提升性能的同时，H100的功耗也在大幅上升。
英伟达 GPU 架构简史
热门推荐
专注于人工智能领域的小何尚
08-09 2万+
尽管近年来 Nvidia GPU 确实更频繁地成为新闻，但它们绝不是新事物。事实上，多年来，Nvidia GPU 已经进行了多次迭代，GPU 架构也取得了进步。因此，让我们回顾一下最近的历史，以了解 GPU 是如何随着时间的推移而发展的。我们将通过探索自 2000 年以来发布的每个流行的 Nvidia GPU 微架构来做到这一点。...
深度学习部署笔记(三): GPU架构解析 + CUDA编程基础
bobchen1017的博客
03-01 1688
学习GPU架构以及通过一个小案例来了解CUDA编程的基础grid block
NVIDIA GPU核心架构及参数解析
LuLaaa_的博客
02-26 1000
综上所述，NVIDIA GPU的核心参数包括CUDA Core、Tensor Core和RT Core，它们分别用于通用计算、深度学习和光线追踪等不同类型的任务。通常来说，CUDA Core的数量对应的是FP32计算单元的数量。因此，在选择GPU时，如果需要进行深度学习任务，拥有更多、更高效的Tensor Core的GPU往往能够提供更好的性能和效率。在深入了解NVIDIA V100、A100和H100等GPU之前，我们先来简要了解NVIDIA GPU的核心参数，以便更好地理解它们之间的差异和各自的优势。
华为NE20E-S系列硬件特性详解
这些设备支持10Gbps和千兆以太网接口，NPU-50和NPU-120处理器分别提供了不同数量的10G和GE端口，进一步增强了其处理大量数据流的能力。 华为NE20E-S系列路由器通过其多样化的硬件形态、高效能的转发子卡、大容量的...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

主公讲 ARM

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值