cuda代码中使用原子函数处理小数（附最值和求和代码）

已于 2024-04-25 16:56:39 修改
阅读量468 收藏 6
点赞数 16
分类专栏： Cuda编程笔记 文章标签： CUDA 原子函数 atomicCAS 原子函数重载 atomicMax atomicAdd atomicMin
于 2024-04-25 16:53:21 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/puqian13/article/details/138187915
版权
本文介绍了CUDA中原子函数的使用，特别是在处理小数时的策略。通过原子比较和交换函数atomicCAS，重载实现了原子最大值、最小值和求和函数，适用于浮点型数据的并行计算。文章详细阐述了计算兼容性要求及编程注意事项，并提供了工程验证的示例。
摘要由CSDN通过智能技术生成

cuda代码中使用原子函数处理小数（附最值和求和代码）


通过重载原子函数来实现。

一、原子函数介绍

1、什么是原子函数

原子操作的函数简称原子函数，原子操作英文：atomic operation。
原子操作：在CUDA中，一个线程对某个全局内存或者共享内存中的数据进行读取、修改、写入时，其他线程无法对该变量进行操作。
原子操作实现了多个线程间共享的变量的互斥保护，将多个线程的访问序列化，确保任意一个线程对变量操作时，绝对不会对其他任务打断，确保了并行线程间共享内存读写的安全。
它是最小的执行单位，不可再分，所以叫原子。

2、CUDA编程手册对原子函数的介绍

在这里插入图片描述

（1）计算兼容性名词解释

手册中指出“只有计算兼容性为1.1的设备才可以使用原子函数”。
这里计算兼容性指显卡的计算能力（compute capability）大于等于1.1，如何查看显卡计算能力这里不做介绍。
该参数虽然叫计算能力，但是和计算性能没有关系，其仅仅起到一个版本号的作用，代表该GPU具备哪些工具包，有什么样的功能。

（2）原子函数不能直接处理小数

手册中明确指出，原子操作只能处理32位的整型数据，但是在工程中，CUDA处理的数组或者图像矩阵大多是

了解本专栏 订阅专栏 解锁全文 超级会员免费看
这是一个图像
关注
  • 16
    点赞
  • 踩
  • 6
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
订阅专栏
Cuda—— Atomic Functions
xiaohu的博客
03-27 868
原子函数对驻留在全局或共享内存中的一个 32 位或 64 位字执行读取-修改-写入原子操作。在 float2 或 float4 的情况下，对驻留在全局内存中的向量的每个元素执行读取-修改-写入操作。例如，atomicAdd() 在全局或共享内存中的某个地址读取一个字，向其添加一个数字，然后将结果写回同一地址。原子函数只能在设备函数中使用。
CUDA atomic原子操作
weixin_30657999的博客
02-09 2167
CUDA的原子操作可以理解为对一个变量进行“读取-修改-写入”这三个操作的一个最小单位的执行过程，这个执行过程不能够再分解为更小的部分，在它执行过程中，不允许其他并行线程对该变量进行读取和写入的操作。基于这个机制，原子操作实现了对在多个线程间共享的变量的互斥保护，确保任何一次对变量的操作的结果的正确性。 原子操作确保了在多个并行线程间共享的内存的读写保护，每次...
cuda原子操作
IChocolateKapa
02-07 2732
C.1  数学函数C.1.1  atomicAdd() int atomicAdd(int* address, int val); unsigned int atomicAdd(unsigned int* address,                            unsigned int val); unsigned long long int atomicAdd(unsig
CUDA原子操作函数
u012321968的博客
04-11 687
原文链接：https://blog.csdn.net/q583956932/article/details/78826987 下面是各种原子操作的列表： 函数名 作用 atomicAdd(&value, add_num) 加法：value = value + add_num atomicSub(&value, sub_num) 减法：value = value ...
数字图像处理高级应用 基于Matlab与CUDA的实现 示例代码
10-30
开发者可以使用这些图像来运行和测试书中提供的MATLAB和CUDA代码，观察处理前后的效果，验证算法的正确性和效率。 在实际应用中，MATLAB与CUDA的结合使用能够显著提高图像处理的速度，这对于实时图像分析、视频流...
cuda程序示例代码.rar
05-24
5. **多线程**：CUDA中的线程模型是多维度的，由线程块和线程网格构成。每个线程块包含多个线程，而多个线程块组成一个线程网格。理解和控制这种多线程结构是CUDA编程的关键。 6. **高性能计算**：CUDA被广泛应用于...
extending-jax:使用自定义C ++和CUDA代码扩展JAX
04-22
使用自定义C ++和CUDA代码扩展JAX 该存储库旨在作为一个教程，演示当您具有C ++和CUDA（可选）的现有实现时，提供JAX中的自定义操作所需的基础结构。 我本来想将其写为博客文章，但最终有足够的样板代码来决定，将其...
使用CUDA进行图像处理的教程
03-17
在CUDA中，这些操作可以通过编写设备端代码（CUDA kernels）来实现。CUDA kernel是一种在GPU上运行的函数，它可以并行地在所有可用的核心上执行，处理大规模的数据集。例如，对图像进行卷积操作时，可以为每个像素...
cuda并行求和代码
03-17
通过归并的思想，利用nvidia的cuda工具，对求和的算法进行gpu并行计算操作，使得求和的效率大大提高。
CUDA基础的基础教程：初探原子操作和CUDA流
limn204的专栏
09-24 850
1.原子操作 熟悉操作系统的读者对与原子操作不会陌生，原子操作代表不可被分割的操作，也就是最小的计算机可执行程序的单元。在CUDA中，也有这样的原子操作,我们使用原子操作之后，会锁定空间，防止其他的进程访问。由于CUDA的超多线程并行运算的特性，我们可以利用CUDA中的原子操作来优化我们的程序。 1.1 CUDA原子操作 CUDA可供使用的原子操作有很多，我们只介绍最基本的一个atomicAdd，...
Cuda atomic操作
勇敢的蜗牛
05-07 1188
注意：函数运算完之后，会将运算结果保存在第一个参数指针指定的空间位置，返回的是old值。 int atomicAdd(int* address, int val); unsigned int atomicAdd(unsigned int* address, unsigned int val); unsigned long long int atomicAdd(unsigned long long ...
cuda float atomic操作
banfan0440的博客
06-06 650
atomic add.用第二个，暂时还没弄明白 #ifdef FLOAT #define T float #else #define T int #endif #ifdef FORUM __device__ inline void atomicAdd(float *address, float val){ int i_val = __float...
CUDA中的原子操作
最新发布
ywfwyht的博客
12-05 1747
CUDA中的原子操作主要包括原子加（atomicAdd）、原子减（atomicSub）、原子与（atomicAnd）、原子或（atomicOr）、原子异或（atomicXor）、原子最小值（atomicMin）和原子最大值（atomicMax）等。在CUDA中，原子操作是一种同步方法，用于在多个线程之间共享数据。原子操作具有原子性、独占性和排他性，可以确保多个线程对共享资源的并发访问不会同步出错。原子操作用于对共享内存中的数据进行原子性读写操作，以避免多个线程同时访问同一个内存地址造成的数据竞争问题。
第九章 CUDA原子(atomic)实战篇
weixin_38252409的博客
08-22 788
学习我的教程专栏，你将绝对能实现CUDA工程化，实现环境安装、index计算、kernel核函数编程、内存优化与steam性能优化、原子操作、nms的cuda算子、yolov5的cuda部署等内容，并开源教程源码。在本章节中，我们将介绍特殊操作-原子操作(atomic)，分为计算原子操作与位相关原子操作。该操作弥补cuda核函数并行对同一内存修改而导致错误结果。另外，介于后面yolo的cuda处理需要使用原子相关操作，特别是按条件筛选保留或处理对应位置的数据。
CUDA：为原子操作(Atomic Functions)执行线程束聚合实例
希望我的博客，能帮上你解决学习中工作中所遇到的问题
12-21 144
CUDA：为原子操作(Atomic Functions)执行线程束聚合实例
CUDA atomicCAS 使用方法
m0_52153904的博客
04-13 1696
CUDA中atomicCAS的使用方法
cuda编程学习——原子函数（十）
出门吃三碗饭的博客
06-01 683
CUDA C编程权威指南》以及 CUDA官方文档CUDA编程：基础与实践 樊哲勇文章、讲解视频同步更新公众《AI知识物语》，B站：出门吃三碗饭。
cuda相同代码放在核函数计算不同
05-26
如果你有一段 CUDA 代码，想在核函数中对不同数据进行计算，可以使用 CUDA 的线程和块索引来实现。 首先，你需要定义每个线程需要计算的数据的索引。这可以通过在核函数中获取线程索引来完成。例如，如果你有一个二维数组需要进行计算，你可以使用以下代码定义每个线程需要计算的行和列索引： ``` int row = blockIdx.y * blockDim.y + threadIdx.y; int col = blockIdx.x * blockDim.x + threadIdx.x; ``` 接下来，你可以在核函数中使用这些索引来访问数组中的不同元素。例如，如果你要计算数组中每个元素的平方，你可以使用以下代码： ``` float val = data[row * cols + col]; data[row * cols + col] = val * val; ``` 在代码中，`data` 是你要计算的二维数组，`cols` 是数组的列数。通过将 `row` 和 `col` 索引相乘并加上 `col` 索引，可以计算出每个元素在数组中的索引。 最后，你需要在启动核函数时指定块和线程的数量。你可以使用以下代码来启动核函数： ``` dim3 blockDim(16, 16); dim3 gridDim((cols + blockDim.x - 1) / blockDim.x, (rows + blockDim.y - 1) / blockDim.y); myKernel<<<gridDim, blockDim>>>(data, rows, cols); ``` 在代码中，`blockDim` 定义了每个块中的线程数量，`gridDim` 定义了块的数量。`myKernel` 是你的核函数，`data` 是你要计算的数组，`rows` 和 `cols` 是数组的行和列数。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

这是一个图像

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值