📚“九层之台,起于垒土”。学习技术须脚踏实地。
☀️你要做冲出的黑马,而不是坠落的星星。
🔑前言
本文介绍了CUDA并行编程的经典案例——CUDA归约求和的第二个版本。这个案例对于理解掌握CUDA并行原理很有帮助。想了解更多CUDA相关内容,与大牛相互讨论交流,可以用这款刷题、模拟面试神器,可助你斩获心仪大厂offer:点我免费刷题、模拟面试
归约求和算法(二)
上篇文章求和归约算法(一)中实现了并行归约求和,但是其中的 kernel 函数中明显有分支。同一个 warp 在全程循环中都有两个控制流路径,即一部分满足 if 条件参与运算,另一部分不满足 if 条件不参与运算。
下面介绍一种尽量控制一个 warp 中只有一个控制流路径。从而使 warp 的工作效率最高的归约求和算法。
结合下面的代码解释。
- 第一轮循环中不在采用相邻元素相加,两个相加元素中间的距离是每一部分大小的一半。把 stride 初始化为线程块大小的一半,能实现上述操作。
- 第二次迭代时 stride 为线程块