cuda学习笔记一之GPU基本概念

简介

毕业工作以来从事深度学习方面工作,但在实际项目中需要对项目进行加速,因此需要学习cuda,此笔记简略记录学习cuda的历程。

GPU基本概念

什么是cuda?

  • CUDA是英伟达公司推出的一种基于新的并行编程模型和指令集架构的通用计算架构,它能利用英伟达GPU的并行计算引擎,比CPU更高效的解决许多复杂计算任务。
  • 而我们常说的CUDA其实一个gpu编程库,他以c/c++为基础提供一些gpu编程接口。

GPU分类?

gpu类别是有很多种,按照不同的领域可以分为高性能计算的、专业制图的、桌面版本的,如下表所示:

类别显卡计算能力单精度性能(TFLOPS)显存CUDA CORE
高性能计算TeslaV100,P100暂无,6.014,9.316G,16G5120,3584
专业制图Quadro P60006.11224G3840
桌面GPUNVIDIA TITANX6.111123584

每秒浮点运算次数:1TFLOPS = 每秒10^11次浮点运算。

影响GPU计算能力的因素?

  • 时钟频率
  • (CUDA cores) 并行计算的核心处理器的数目.
  • 内存大小
  • 内存带宽 (Bandwidth, 指数据传输的速度)
  • GPU/CPU之间通讯的带宽.

GPU编程模型

gpu编程模型如下:

  • 线程级并行(核函数)
  • cpu+GPU同工作
  • 内存+显存同时利用
  • CPU和GPU通信
  • 串行或部分并行(CPU)+并行(GPU)

这里写图片描述

CPU和GPU数据通信模型

  • 首先cpu数据需要从内存拷贝到显存,中间的传输介质使用的是PCI bus。
    这里写图片描述
  • 然后执行gpu代码,gpu访问显存并完成计算。
    这里写图片描述

  • gpu计算完将结果拷贝到cpu内存中。
    这里写图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值