cuda---共享内存

cuda—共享内存

1.sharedMemPerBlock 指示了block中最大可用的共享内存,所以可以使得 block 内的threads可以相互通信。sharedMemPerBlock 的应用例子如下面两张图所示:在这里插入图片描述

在这里插入图片描述

2.共享内存是片上内存,更靠近计算单元,因此比globalMem速度更快,通常可以充当缓存使用。
数据先读入到sharedMem,做各类计算时,使用sharedMem而非globalMem

3.demo_kernel<<<1, 1, 12, nullptr>>>();其中第三个参数12,是指定动态共享内存dynamic_shared_memory的大小
1)dynamic_shared_memory变量必须使用extern __shared__开头
2)并且定义为不确定大小的数组[]
3)12的单位是bytes,也就是可以安全存放3个float
4)变量放在函数外面和里面都一样
5)其指针由cuda调度器执行时赋值

4.static_shared_memory作为静态分配的共享内存
1)不加extern,以__shared__开头
2)定义时需要明确数组的大小
3)静态分配的地址比动态分配的地址低

5.动态共享变量,无论定义多少个,地址都一样

6.静态共享变量,定义几个地址随之叠加

7.如果配置的各类共享内存总和大于sharedMemPerBlock,则核函数执行出错,Invalid argument
1)不同类型的静态共享变量定义,其内存划分并不一定是连续的
2)中间会有内存对齐策略,使得第一个和第二个变量之间可能存在空隙
3)因此你的变量之间如果存在空隙,可能小于全部大小的共享内存就会报错

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
CUDA共享内存是一种位于GPU上的高速存,可以用于在同一个线程块内的线程之间共享数据。使用共内存可以显著提内存访问的效,并且减少对全局内存访问次数。 以下使用CUDA共享内存的一般步: 1. 声明共内存:在GPU核函数中,可以使用`__shared__`关键字来声明共享内存共享内存的大小需要在编译时确定,并且是所有线程块中的线程共享的。 ```cuda __shared__ float sharedData[SIZE]; ``` 2. 将数据从全局内存复制到共享内存:在GPU核函数中,使用线程块中的线程来将数据从全局内存复制到共享内存中。可以使用线程块索引和线程索引来确定数据的位置。 ```cuda int tid = threadIdx.x; int blockId = blockIdx.x; int index = blockId * blockDim.x + tid; sharedData[tid] = globalData[index]; ``` 3. 同步线程块:在将数据复制到共享内存后,需要使用`__syncthreads()`函数来同步线程块中的线程。这样可以确保所有线程都已经将数据复制到共享内存中。 ```cuda __syncthreads(); ``` 4. 使用共享内存:一旦所有线程都已经将数据复制到共享内存中,可以使用共享内存进行计算。由于共享内存位于GPU的高速缓存中,所以访问速度较快。 ```cuda sharedData[tid] += 1.0f; ``` 5. 将数据从共享内存复制回全局内存:在计算完成后,可以使用线程块中的线程将数据从共享内存复制回全局内存。 ```cuda globalData[index] = sharedData[tid]; ``` 需要注意的是,共享内存的大小是有限的,不同的GPU架构及型号都有不同的限制。因此,在使用共享内存时,需要确保不超过设备的限制,并且合理地利用共享内存,以提高性能。此外,需要注意线程同步的位置和使用方法,以避免数据竞争和错误的结果。 以上是使用CUDA共享内存的基本步骤,具体的实现方式会根据具体问题而有所不同。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值