[cuda]在launch kernel的过程中不能调用cudaFree

最新推荐文章于 2024-06-19 16:34:13 发布

adream307

最新推荐文章于 2024-06-19 16:34:13 发布

阅读量1.7k

点赞数 2

分类专栏： c/c++ Linux cuda

本文链接：https://blog.csdn.net/adream307/article/details/88175133

版权

本文档揭示了一个CUDA编程的关键注意事项：在启动kernel执行时不应调用cudaFree释放GPU内存。测试表明，这可能导致kernel执行中出现问题，因为释放的内存可能在kernel运行中被使用。为避免阻塞，应确保cudaFree操作不在kernel执行的上下文中进行。当尝试释放不同GPU上的内存时，此问题不会出现。

摘要由CSDN通过智能技术生成

测试发现cuda的launch kernel的过程中不能释放该gpu上的显存，cuda任务被释放的显存可能被kernel调用，所以禁止在laucn kernel过程中释放该gpu上的显存。
测试代码如下：

#include <stdio.h>
#include <thread>
#include <unistd.h>
#include <iostream>
#include <cuda_runtime.h>
#include <vector>

#define GRID_X  128
#define BLOCK_X 128

__global__ void proc(int *mem){
   
    int idx = blockDim.