CUDA 查询本机共享内存大小

最新推荐文章于 2024-04-20 22:27:39 发布
最新推荐文章于 2024-04-20 22:27:39 发布
阅读量3.1k 收藏 7
点赞数 2
分类专栏： 学习笔记 文章标签： CUDA 多核程序设计 GPU NVIDIA 共享内存
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_40005329/article/details/106853783
版权

1 基本流程

  1. 使用cuda预实现的sample程序 deviceQuery 查询本机设备（显卡）信息
  2. 利用grep抓取 shared字样查询共享内存大小

2 操作步骤

环境：Ubuntu 18.04， win系统可利用everything等索引搜索找到deviceQuery.exe

  1. 定位deviceQuery

    $ locate deviceQuery

    在这里插入图片描述

  2. 选用/usr/local/cuda-10.2/samples/bin/x86_64/linux/release/deviceQuery

    $ /usr/local/cuda-10.2/samples/bin/x86_64/linux/release/deviceQuery

    在这里插入图片描述
    以上为内容全览，可以看到，本机共享内存大小是49152 bytes。

  3. 通过grep直接选中包含shared的字段

    $ /usr/local/cuda-10.2/samples/bin/x86_64/linux/release/deviceQuery | grep shared

    在这里插入图片描述
    可以清晰看到，本机共享内存大小是49152 bytes。

2020/6 Karl

karlzpsong
关注
  • 2
    点赞
  • 踩
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
CUDA学习笔记(6) 共享内存与全局内存
GongBingjian
12-22 1万+
共享内存（Shared memory）是位于每个流处理器组（SM）中的高速内存空间，主要作用是存放一个线程块（Block）中所有线程都会频繁访问的数据。流处理器（SP）访问它的速度仅比寄存器（Register）慢，它的速度远比全局显存快。但是他也是相当宝贵的资源，一般只有几十KByte，  这里以我电脑上的“Quadro K620”为例： 硬件资源 参数 流处理器（SP） 128 *
查看nvidia gpu共享内存大小
YoJayC的博客
03-22 3550
在 linux 上使用locate deviceQuery命令找到使用cuda预实现的sample程序deviceQuery 在命令行执行/home/amax/NVIDIA_CUDA-10.0_Samples/bin/x86_64/linux/release/deviceQuery 查看GPU的详细信息 参考： https://blog.csdn.net/weixin_40005329/article/details/106853783 ...
CUDA编程---共享内存和常量内存
最新发布
qq_40268672的博客
04-20 915
是较大的板载内存，具有相对较高的延迟。是较小的片上内存，具有相对较低的延迟，并且共享内存可以提供比全局内存高得多的带宽。可以把它当作一个。
简单查看cuda已用memory
岛的博客
05-07 2094
import torch "cuda memory = {:.3f} GBs".format(torch.cuda.max_memory_allocated() / 1024 ** 3)
CUDA shared memory
kiwi's garden
03-23 3773
原文来自CUDA C programming guide shared memory在片上，因此比local memory与global memory快得多。   To achieve high bandwidth, shared memory is divided into equally-sized memory modules, called banks, which can be a
CUDA学习(九)：共享内存
hjxu2016的博客
11-18 2874
转自 CUDA学习笔记(6) 共享内存与全局内存    共享内存（Shared memory）是位于每个流处理器组（SM）中的高速内存空间，主要作用是存放一个线程块（Block）中所有线程都会频繁访问的数据。流处理器（SP）访问它的速度仅比寄存器（Register）慢，它的速度远比全局显存快。但是他也是相当宝贵的资源，一般只有几十KByte。 全局显存（Global memory）的大小比共享显存（Shared memory）大了几个数量级。当然，共享显存的访问速度也一定比全局显存快。再从硬件上看：  
cuda学习(4)：共享内存
@bangbang的博客
10-04 2424
共享内存因为更靠近计算单元，所以访问速度更快共享内存通常可以作为访问全局内存的缓存使用，比如全局内存有一块内存你会经常访问使用的话，如果每次都到全局内存去拿效率相对比较低，这个时候可以考虑先搬到共享内存中，然后再共享内存中频繁访问，这样效率就会高很多。利用共享内存实现线程间的通信共享内存通常与__syncthreads同时出现，这个函数时同步block内的所有线程，全部执行到这一行才会往下走。
主机端多线程cuda调用
08-15
- **内存层次**：CUDA有全局内存、共享内存、纹理内存和常量内存等不同层次的内存，开发者需要根据需求合理分配和管理内存。 2. **主机端多线程**： - **C++多线程库**：在C++11及更高版本中，标准库提供`...
CUDAnative.jl：Julia对本机CUDA编程的支持
02-03
"CUDAnative.jl" 是一个用于 Julia 语言的开源库，它为开发者提供了直接在 Julia 中进行本机 CUDA 编程的能力。CUDA（Compute Unified Device Architecture）是 NVIDIA 推出的一种并行计算平台和编程模型，主要用于...
Image_Convolution_CUDA:通过使用共享和恒定内存在CUDA中进行2D图像卷积
05-23
8. **性能调优**：通过调整线程块大小、卷积核大小、共享内存使用等因素，可以进一步优化2D图像卷积的性能。此外，可以利用NVIDIA的Nsight系统和Nsight Compute等工具进行性能分析和调试。 综上所述，"Image_...
数组逆序=全局内存版 VS 共享内存版
09-19
在实际应用中，我们还需要考虑设备的特性，如CUDA核心数量、内存大小和带宽，以及任务的规模，以确定哪种方法更适合特定的硬件和问题。 总的来说，全局内存版和共享内存版的数组逆序在CUDA编程中都有其适用场景。...
CUDA_CUDA简介_
10-04
3. **Memory Hierarchy**：CUDA提供多种内存类型，包括全局内存、共享内存、常量内存和纹理内存。合理使用这些内存可以显著提高性能，因为全局内存访问速度较慢，而共享内存和常量内存访问速度更快。 4. **...
CUDA核函数share memory
wenxuegeng的专栏
10-14 2319
标签： CUDAExample
CUDA编程第五章: 共享内存&常量内存
Janus
02-16 5081
本章大概50页, 2天之内看完 前言: 本章内容： 了解数据在共享内存中是如何被安排的 掌握从二维共享内存到线性全局内存的索引转换 解决不同访问模式中存储体中的冲突 在共享内存中缓存数据以减少对全局内存的访问 使用共享内存避免非合并全局内存的访问 理解常量缓存和只读缓存之间的差异 使用线程束洗牌指令编程 在前面的章节中, 已经介绍了几种全局内存的访问模式. 通过安排全局内存访问模式, 我们学会了如何实现良好的性能并且避免了浪费事务. 未对齐的内存访问是没有问题的, 因为现.
cuda共享内存(静态和动态)的使用和注意点
zhaoyqcsdn的博客
12-31 782
共享内存（shared memory）● 比global快上百倍● 可以通过缓存数据减少对global memory的读写● 线程间可以使用shared memory进行协作共享内存会被分为32个bank,和warp中的线程数一致，即一个线程访问一个bank从软件概念来讲，一个共享内存是在一个block内，block内的所有线程都能使用该共享内存从硬件概念来讲，一个共享内存是在一个sm中。
如何查看CUDA算力/内存总量/架构信息等
2301_77554343的博客
11-29 2240
线程块/网格的最大维度大小分别为(x,y,z)=(1024, 1024, 64)和(x,y,z)=(2147483647, 65535, 65535)。: 最大纹理维度大小为1D=(131072)，2D=(131072, 65536)，3D=(16384, 16384, 16384)。: 计算模式，默认是多个主机线程可同时使用::cudaSetDevice()来访问设备。: 设备是否支持统一寻址（Unified Addressing），这里是支持的。: 最大内存跨度（pitch）大小（zu为占位符）。
CUDA SHARED MEMORY
TH_NUM的博客
11-25 2348
在global Memory部分，数据对齐和连续是很重要的话题，当使用L1的时候，对齐问题可以忽略，但是非连续的获取内存依然会降低性能。依赖于算法本质，某些情况下，非连续访问是不可避免的。使用shared memory是另一种提高性能的方式。 GPU上的memory有两种： On-board memory On-chip memory global memory就是一块很大的on-bo...
CUDA C编程（十一）CUDA共享内存概述
AAAA202012的博客
12-31 4536
  GPU有两种类型的内存：板载内存以及片上内存。其中全局内存是较大的板载内存，具有相对较高的延迟。共享内存是较小的片上内存，具有相对较低的延迟，并且共享内存可以提供比全局内存高得多的带宽。可以把它当作一个可编程管理的缓存，共享内存通常的用途有：块间线程通信的通道；用于全局内存数据的可编程管理的缓存；高速暂存存储器，用于转换数据以优化全局内存访问模式。 共 享 内 存    共 享 内 存 分 配 共 享 内 存 存 储 体 和 访 问 模 式 配 置 共 享 内 存 量 同 步 ...
用deviceQuery查看GPU状态
han_hhh的博客
09-15 2076
用xshell连接服务器 执行deviceQuery命令 cuda的deviceQuery命令位置：/usr/local/cuda-10.2/samples/1_Utilities/deviceQuery 将deviceQuery文件夹复制到目标位置 cp /usr/local/cuda-10.2/samples/1_Utilities/deviceQuery /jnhan 用make编译 make 此时，deviceQuery目录下会生成可执行文件deviceQuery，执行 ./deviceQue
cuda动态定义共享内存
07-11
在CUDA中，我们可以使用`__shared__`关键字来动态定义共享内存。共享内存是一种在同一个线程块内的线程之间共享数据的内存空间，可以用于加速数据访问和通信。 要动态定义共享内存，可以使用如下语法： ```cuda extern __shared__ T shared[]; ``` 其中，`T`是数据类型，`shared`是共享内存数组的名称。在这种情况下，共享内存的大小是在运行时动态分配的，而不是在编译时确定的。 在使用动态共享内存之前，需要在调用CUDA内核函数时通过第三个参数指定共享内存的大小。例如： ```cuda myKernel<<<gridSize, blockSize, sharedMemSize>>>(args); ``` 其中，`sharedMemSize`是以字节为单位指定的共享内存大小。 在内核函数中，可以使用动态共享内存类似于普通数组，但是需要注意的是，动态共享内存的大小是在编译时无法确定的，因此在访问共享内存时应该确保不会越界。 下面是一个示例，展示了如何在CUDA内核函数中动态定义和使用共享内存： ```cuda __global__ void myKernel(int* input) { extern __shared__ int shared[]; int tid = threadIdx.x; shared[tid] = input[tid]; __syncthreads(); // 使用共享内存进行计算 // ... input[tid] = shared[tid]; } ``` 这是一个简单的示例，展示了如何在内核函数中动态定义共享内存并使用它。实际使用时，你可能需要根据自己的需求来适当修改和扩展代码。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值