CUDA程序性能优化 并行归约

于 2023-03-21 17:05:34 发布
阅读量144 收藏
点赞数
文章标签： 算法
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_62298882/article/details/129662489
版权

​​​​​​归约算法

基本思想是，对于一个输入数组执行某种计算，然后产生一个更小的结果数组。当大量的数进行加和运算时，可以利用归约算法，多线程进行求和运算

例如

bc17484098f34c409fa3a77a22ddf410.jpg

  •  串行实现需要7步，性能比较差
  • 成对方式是典型的分治思想，只需要log₂N步来计算结果，由于不能合并内存事物，这种情况在CUDA中性能较差。
  • 在CUDA中，无论是全局内存还是局部内存，基于交替策略效果会更好。

成对方式导致线程发散如下

c7a83c32c83841b292c44c40ac0ef088.jpg

核心代码

e015f27a7a054b879ec6bd812fc462bf.jpg

 

完整代码

ed4115a07ee3454bb0bf1e9a321a6b5c.jpg

 

解决方法: 相邻线程执行相同的代码 

交替策略

089b44b372b94a90bb2b01c84df87ae1.jpg

 核心代码

f5e0c38e862c4245b532cded1345f0bf.jpg

 

完整代码

e3c9890e6f00499b94a5e2d4d53ecb65.jpg

 

 

 

 

成毅824
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
CUDA程序优化
winning11xuhao的专栏
07-13 1083
CUDA的程序优化主要分为算法优化和访存优化。算法方面的优化主要要看具体代码以及主要想完成的功能，今天主要讨论下访存的优化。    访存主要用到的函数主要是cudaMemcpy函数。通过多次试验，发现该函数是这样工作的，首先要看我们传递多少数据量，根据数据量来决定传输过程中占用多
cuda-使用cuda并行加速实现之reduction.zip
最新发布
04-24
通过学习和实践CUDA并行加速的归约操作，开发者可以有效地利用GPU的强大计算能力，处理大规模数据的聚合问题，提升应用程序的运行速度。本资料中的“cuda_使用cuda并行加速实现之reduction”应涵盖了这些概念，并...
cuda-使用cuda并行加速实现之reduce.zip
04-24
cuda cuda_使用cuda并行加速实现之reduce
GPU编程(四): 并行规约优化
weixin_34318326的博客
02-16 261
目录 前言 cuda-gdb 未优化并行规约 优化后并行规约 结果分析 最后 前言 之前第三篇也看到了, 并行方面GPU真的是无往不利, 现在再看下第二个例子, 并行规约. 通过这次的例子会发现, 需要了解GPU架构, 然后写出与之对应的算法的, 两者结合才能得到令人惊叹的结果. 这次也会简要介绍下cuda-gdb的用法, 其实和gdb用法几乎一样, 也就是多了个cuda命令. ...
累加计算的并行与串行效率比较
taot2009的专栏
11-22 1687
计算一幅图像的像素值的平均值 测试环境： CPU: Intel(R)_Core(TM)_i7-7700_CPU_@_3.60GHz x 8 GPU: NVIDIA GeForce GTX 1050   1，在cuda GPU上计算累加和，先分段计算，在进行规约，分段计算里面其实也是规约，然后除以总的像素个数。 2，在cpu上串行计算累加和，再除以总的像素个数。 3，在cpu上使用om...
CUDA技术测试-归约算法
qq_33562636的博客
11-02 232
#include "../common/common.h" #include <cuda_runtime.h> #include <stdio.h> /* outdata=indata 指针复制,此语句使oudata指向的地址和indata指向的地址相同，它们都指向同一内存区域 *outdata=*indata 指针赋值,此语句使指针outdata指向的地址（内存位置）的内容与指针indata指向地址（内存位置）的内容相同，但outdata与indata指向的地址不一定相
cuda 学习 | GPU的归约、扫描、直方图算法
Yan_Joy的博客
04-05 3512
两种复杂度 Step complexity 即步骤复杂度，完成一个工作需要多少步。 Work complexity 即工作复杂度，完成工作一共需要的工作量。 对于并行计算，由于可以采取多线程的运算，可以对每一步的运算时间进行很大的缩减。但对于整个程序，有时需要分很多步骤，后续步骤需要等待前面的步骤处理完得到结果才能继续执行。因此有时步骤的复杂度反而决定了整个程序运行的时间。Reduce 归约归约
CUDA编程学习＜2＞——归约算法的7种优化方法详解
静以修身，简以养德
02-16 1679
参考链接： CUDA学习（归约算法） 根据上面文章中的PPT链接，进行了深入研究。原文章只介绍了归约算法的一般形式，而PPT中则对比了几种归约算法，但是PPT写的不够完整，不便于系统的运行起来。为了学习CUDA及其优化技巧，特此整理 Nvidia官网归约ppt （英文） 中文PPT 关于代码核函数的部分可以参阅我的博客： CUDA编程学习——关于核函数ID获取公式 硬件信息 实验机器硬件： 通过硬件信息可以看出几个重要信息： 理论带宽(bandwidth)：192GB/s 此显卡每秒渲染像素数量（Pixe
CUDA_GPU_前缀求和算法.cu
05-18
基于CUDA的GPU并行，给出了三种不同的前缀求和算法，第一种是基本的规约并行算法，第二种是采用共享内存优化的GPU并行算法，第三种是采用trust库的前缀求和函数。并且给出了三种方法对比之间的性能差异
C语言高性能并行编程与优化-源码
10-03
在C语言中实现高性能并行编程与优化是一个复杂而精细的过程，它涉及到多个关键知识点，包括多线程、进程通信、同步机制、内存管理以及编译器优化等。以下是对这些核心概念的详细阐述： 1. **多线程**：在C语言中，...
基于CUDA 的并行K-means 聚类图像分割算法优化
03-02
核函数是指在GPU上执行的函数，它是CUDA程序中最基本的执行单元，而并行规约是一种高效的并行算法模式，用于实现数据在并行环境下的快速归约操作。 文章还提到了实验结果，通过比较传统串行K-means算法和优化后的...
CUDA程序设计(三)
weixin_34361881的博客
08-08 179
算法设计：基数排序 CUDA程序里应当尽量避免递归，因而在迭代排序算法里，基数排序通常作为首选。 1.1 串行算法实现 十进制位的基数排序需要考虑数位对齐问题，比较麻烦。通常实现的是二进制位的基数排序。 整体思路：与当前位做AND运算，按照0.....1的顺序重置序列，直到所有位迭代完毕。 sort_tmp数组作为基数桶，sort_tmp1作为辅助桶，存放当前位为1的数据。 _...
CUDA动态并行实现快速排序
xiaohu的博客
11-02 2813
排序是任何应用的基本构造块的关键算法之一。有许多排序算法已经被广泛研究。，常见的排序算法时间和空间复杂度如下：一些排序算法属于分治算法的范畴。这些算法适用于并行性，并适合 GPU 等架构，在这些架构中，要排序的数据可以被划分进行排序。快速排序就是这样一种算法。如前所述，Quicksort 属于“分而治之”的范畴。与其他排序算法(如需要额外存储的合并排序)相比，快速排序的内存负载和要求更低。快速排序的更实际的实现使用随机化版本。随机化版本的预期时间复杂度为O(nlogn)。
cuda 怎么读_一、faster-rcnn源码阅读：nms的CUDA编程
weixin_39963287的博客
11-21 361
打算写一系列faster-rcnn的阅读笔记，侧重于程序实现的细节问题。包括安装，版本选择，编译，数据读取，事无巨细的一一细说。没有规划，没有顺序，没有时间节点，信马由缰，有空就写一点。 我的理解，faster-crnn是目标检测的一个界碑，虽然核心思想源于rcnn和fast-rcnn，但相对以前的算法，性能和效果都实现了质的飞跃，而后面的算法与faster-rcnn有很...
CUDA（20）之优化之去冗余
林微的博客
10-22 1237
摘要 本文主要讲述CUDA的去常见的冗余操作。   1. 未作优化的代码   #include &lt;stdio.h&gt; #include &lt;assert.h&gt; #include &lt;cuda_runtime.h&gt; #include &lt;helper_functions.h&gt; #include &lt;helper_cuda.h&gt; __gl...
CUDA并行计算优化策略总结
CV_Autobot的博客
12-30 465
作者|LustofLife 编辑|极市平台原文链接：zhuanlan.zhihu.com/p/297201517点击下方卡片，关注“自动驾驶之心”公众号ADAS巨卷干货，即可获取点击进入→自动驾驶之心【模型部署】技术交流群后台回复【CUDA】获取CUDA实战书籍！导读并行计算为了提高算法运行效率，本文通过以矩阵乘法（C = A * B）的各种实现思路以及优化方法总结为例子，过一遍cud...
sql去除重复列（行）
weixin_33817333的博客
05-11 6781
有重复数据主要有一下几种情况： 1.存在两条完全相同的纪录 这是最简单的一种情况，用关键字distinct就可以去掉 example： select distinct * from table(表名) where (条件) 2.存在部分字段相同的纪录（有主键id即唯一键） 如果是这种情况的话用distinc...
使用unique来删除重复元素
benobug的博客
03-18 845
C++ STL库中的algorithm库包含了一个unique函数可以用来删除容器中重复的元素，其只能删除相邻近的重复元素，所以如果要使容器中的所有元素都去重，则需要事先对元素进行排序，但这会破坏原先元素的排列顺序，此时应该使用另一种方法解决。 unique()原型 template<class ForwardIterator> ForwardIterator unique(Forwa...
几种常见的数组去重方法
SBTR123456的博客
12-15 195
1：新建一个数组，遍历原来数组，判断遍历的值是否在新数组中存在，不存在就push 2：方法类似于1，在数组中查找，如果每次查找到的下标正好与当前遍历的i相等，就说明该数组中的数据时第一次出现 3：第三种 /* * 给传入数组排序，排序后相同值相邻， * 然后遍历时,新数组只加入不与前一值重复的值。 * 会打乱原来数组的顺序 * */ 转载于:https://w...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值