关于CUDA编程中，__device__函数由于for循环而不执行的问题

最新推荐文章于 2023-11-28 15:45:27 发布
最新推荐文章于 2023-11-28 15:45:27 发布
阅读量287 收藏 2
点赞数
分类专栏： CUDA编程 文章标签： c++
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sinat_35775571/article/details/131662761
版权

由于测试需要，需要在Bundlefusion上修改源码，然后本人在__device__函数上，加入了for循环，由于遍历的次数较大，所以加入这一部分修改的代码就会导致不报错，但是输出的是empty mesh。

找了很久的原因，发现是SM会根据线程数量为每一个线程分配寄存器空间，但是在for循环遍历时，会不断的占用寄存器空间，所以当寄存器空间不足时，就会导致CUDA Kernel不启动，从而不执行GPU代码。

解决方式就是在为Kernel函数分配线程时，需要平衡for训话遍历与线程的数量，因此，通过减小Blocksize的大小，成功解决了内核不启动的问题

面包牛奶心
关注
  • 0
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
CUDA中的动态并行
专注于人工智能领域的小何尚
02-09 1429
是 CUDA 编程模型的扩展，使 CUDA 内核能够直接在 GPU 上创建新工作并与新工作同步。在程序中需要的任何位置动态创建并行性提供了令人兴奋的新功能。直接从 GPU 创建工作的能力可以减少在主机和设备之间传输执行控制和数据的需要，因为现在可以通过在设备上执行的线程在运行时做出启动配置决策。此外，可以在运行时在内核内内联生成依赖于数据的并行工作，动态利用 GPU 的硬件调度程序和负载平衡器，并根据数据驱动的决策或工作负载进行调整。
CUDA学习之三
yanghangjun的专栏
05-13 6433
CUDA编码对于函数部分前缀1.  __device__使用 _device_ 限定符声明的函数具有以下特征：n         在设备上执行；n         仅可通过设备调用。2. __global__使用 _global_ 限定符可将函数声明为内核。此类函数：n         在设备上执行；n         仅可通过主机调用。3. __host_
（CUDA）快速GPU开发------Device函数应用
喝摩卡的被窝君
08-18 5172
Device函数表示的是仅仅在设备(Device)端能够使用的函数。Device函数可以是任何的函数，这样可以通过每一个线程来运行一个Device函数来达到并行的目的。在本文中聚焦软件开发速度，故而不讨论计算性能问题。
cuda核函数传入__device__函数指针的使用例子
qq_39148922的博客
07-08 3360
cuda的global函数里面可以调用__device__函数，在有特殊需要的时候，还可以把__device__函数作为参数传入到一个__global__函数中 在cuda里面不能像c++那样简单地传入函数的指针，需要在传入前对函数的指针做一些包装。 例如 typedef double(*funcFormat)(int,char); 这里面double表示函数的返回值，int,char是函数的参数列表，所有满足这种格式的函数都可以用这种函数类型指代。 上面的funcFormat是一种函数类型，在这里可以把
CUDA 入门笔记-3 -静态全局内存__device__
SIXtong的博客
10-17 1250
device 全局内存是GPU中最大，延迟最高但是最常使用的内存。一个全局内存变量可以被静态声明。修饰符为__device__ 静态变量使用例程 #include <stdio.h> #include <cuda_runtime.h> #include <sys/time.h> __device__ float devData; __global__ voi...
CUDA全局变量（__device__）的初始化与使用：cudaMemoryToSymbol、cudaMemoryFromSymbol、cudaGetSymbolAddress
热门推荐
RToax
11-29 1万+
在cuda中在设备（device）中声明一个全局变量用__device__关键字修饰： __device__ float devData; 初始化为： float value = 3.14f; cudaMemcpyToSymbol(devData, &value, sizeof(float));在使用结束后，将其转回host： cudaMemcpyFromSymbol(&value, de
cuda.rar_GPU CUDA_cuda_cuda 编程源码_purpose
09-24
CUDA编程资料，包括：CUDA by Example.An Introduction to General-Purpose GPU Programming、CUDA_C_Programming_Guide和cuda_by_example源码
failed call to cuInit: CUDA_ERROR_NO_DEVICE解决方法
01-06
在anaconda虚拟环境下运行程序时，报错failed call to cuInit: CUDA_ERROR_NO_DEVICE. 单独测试import tensorflow，可以成功调用GPU。 用ncvv -V，或nvidia-smi，都可以正常看到CUDA安装版本，及GPU使用情况。 问题...
cuda.rar_cuda mpi_cuda 教程_cuda 编程 教程
09-14
cuda的教程，cuda是在nvdia的GT80以上显卡支持的Gpu编程的c语言环境
CUDA.zip_CUDA ppt_cuda编程，PPT
09-24
GPU计算的编程模型，硬件模型，存储模型，执行模型。
CUDA.rar_CUDA ppt_GPU_cuda_cuda学习_cuda编程，PPT
09-23
学习NVIDIA公司GPU平台CUDA开发环境的好资料，可以大体上了解CUDA的运行环境和编程技巧
为什么--cuda_device 的参数是0？
最新发布
weixin_44943389的博客
11-28 1557
这样，PyTorch 将使用 CPU 进行训练。选择使用哪个设备通常取决于您系统上的硬件配置和训练任务的要求。表示使用第一个 GPU 设备。这是因为计算设备在深度学习中可以是 GPU，而通常 GPU 的编号从。，则表示将模型放置在第一个 GPU 上进行训练。或类似的参数来指定模型训练使用的计算设备，其中。，PyTorch 将使用默认设备，通常是 CPU。如果您想使用 CPU 进行训练，可以将。在 PyTorch 中，如果设置。在深度学习框架中，通常使用。参数的值设置为空字符串。或将其设置为空字符串。
pytorch—to、device、cuda差异
weixin_43845386的博客
07-14 2568
pytorch中的to、device、cuda方法的差异及优点缺点
CUDA中的存储空间修饰符
专注于人工智能领域的小何尚
06-30 524
变量内存空间说明符表示变量在设备上的内存位置。在设备代码中声明的没有本节中描述的任何 、 和 内存空间说明符的自动变量通常驻留在寄存器中。 但是，在某些情况下，编译器可能会选择将其放置在本地内存中，这可能会产生不利的性能后果，如设备内存访问中所述。 内存空间说明符声明了一个驻留在设备上的变量。在接下来的三个部分中定义的其他内存空间说明符中最多有一个可以与 一起使用，以进一步表示变量属于哪个内存空间。 如果它们都不存在，则变量： 内存空间说明符，可选择与 一起使用，声明一个变量： 内存空间说明符，可选择
Cuda 代码中的 函数前缀 device global host 使用
comedate的专栏
10-28 729
前言 在深度学习caffe框架等多处，用到了CUDA函数，使代码加速，其文件类型为XXX.cu。在运行这些CUDA函数时，会遇到一下C++里没有的问题，比如函数前缀问题，如果在修改编写.cu文件时不注意，会出现问题，因此本文在这里讨论一下。主要解决如下问题：error : calling a host function from a global function is not allowed. 一、定义 CUDA C语言对C语言的扩展之一就是加入了一些函数前缀，在CUDA中有三种函数前缀：device，g
cuda_device的血泪教训
YasmineC的博客
03-03 3134
之前声明cuda设备的方式都是首先os.environ['CUDA_VISIBLE_DEVICES'] = '0,1,2,3,4,5,6,7', 代表能看到所有设备，然后再通过device = 'cuda:6'+model = model.to(device), 放到其中某个设备上。今天要跑一个新模型，仍然选择这种方式，但是非常神奇，我生命了'cuda:6'，但是模型偏偏就是会跑到'cuda:0'和'cuda:6'上 于是换了种方式，os.environ['CUDA_VISIBLE_DEVICES'] =
cuda 怎么读_一、faster-rcnn源码阅读：nms的CUDA编程
weixin_39963287的博客
11-21 325
打算写一系列faster-rcnn的阅读笔记，侧重于程序实现的细节问题。包括安装，版本选择，编译，数据读取，事无巨细的一一细说。没有规划，没有顺序，没有时间节点，信马由缰，有空就写一点。 我的理解，faster-crnn是目标检测的一个界碑，虽然核心思想源于rcnn和fast-rcnn，但相对以前的算法，性能和效果都实现了质的飞跃，而后面的算法与faster-rcnn有很...
cuda 核函数 for循环_【CUDA 基础】6.2 并发内核执行
weixin_28221501的博客
12-28 1843
Abstract: 本文介绍内核的并发执行，以及相关的知识Keywords: 流，事件，深度优先，广度优先，硬件工作队列，默认流阻塞行为开篇废话没有废话，继续前面的内容，上文中我们说到了流，事件和同步等的概念，以及一些函数的用法，接下来的几个例子，介绍并发内核的几个基本问题，包括不限于以下几个方面：- 使用深度优先或者广度优先方法的调度工作- 调整硬件工作队列- 在Kepler设备和Fermi设备...
【深度学习高效小trick】使用指定的GPU(组)搞深度学习：CUDA_VISIBLE_DEVICES || os.environ[‘CUDA_VISIBLE_DEVICES‘]=‘1‘
Thebest_jack的博客
07-07 1万+
使用指定的GPU组：CUDA_VISIBLE_DEVICES//os.environ['CUDA_VISIBLE_DEVICES']='1'---高效使用服务器的GPU！
在cuda中 __global__定义函数，在调用时该函数不执行
04-23
1. 调用时传入的参数不正确，导致函数没有被正确执行。 2. 函数执行过程中出现了错误，导致程序崩溃或者函数停止执行。 3. 程序中存在其他的错误，导致函数无法正常执行。 您可以检查程序的代码和配置，以确保函数被...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值