CUDA_共享内存

最新推荐文章于 2023-06-19 13:04:46 发布

一介草民李老四

最新推荐文章于 2023-06-19 13:04:46 发布

阅读量526

点赞数

分类专栏： CUDA 文章标签： c++ c语言服务器 cuda hpc

本文链接：https://blog.csdn.net/weixin_48151686/article/details/109588614

版权

本文详细介绍了CUDA的共享内存，包括其作为高速缓存的角色、共享内存架构、bank冲突及其优化策略。共享内存允许同一block内的线程高效通信，但bank冲突可能导致访问延迟。通过理解bank组织和优化访问模式，可以最大化利用共享内存的带宽，提高CUDA程序性能。

摘要由CSDN通过智能技术生成

共享内存简介

共享内存时受用户控制的一级缓存，共享存储器为片内高速存储器，是一块可以被同一block中的所有线程访问的可读写存储器。访问共享存储器的速度几乎和访问寄存器一样快(相对而言，不是十分严谨的说法，真实情况是，共享内存的延时极低，大约1.5T/s的带宽，远高于全局内存的190G/s,此速度是寄存器的1/10)，是实现线程间通信的延迟最小的方法。共享存储器可以用于实现多种功能，如果用于保存共用的计数器或者block的公用结果。

计算能力1.0、1.1、1.2、1.3硬件中，每个SM的共享存储器的大小为16KByte，被组织为16个bank，对共享存储器的动态与静态分配与初始化

int main(int argc, char** argv) 
{
   
    // ...
    testKernel<<<1, 10, mem_size >>>(d_idata, d_odata);
    // ...
    CUT_EXIT(argc, argv);
}

__global__ void testKernel(float* g_idata, float* g_odata)
{
   
    // extern声明，大小由主机端程序决定。动态声明
    extern __shared__ float sdata_dynamic[]