CUDA程序编写基本步骤
- 把输入数据从CPU内存复制到GPU显存
- 在执行芯片上缓存数据,加载GPU程序并执行
- 把计算结果从GPU显存中复制到CPU内存中
CUDA编程模式
-
执行空间
-
CUDA简单编译
nvcc 代替gcc
3. CUDA的线程层次
thread, block, grid
Thread,执行在core上;
block,执行在SM上;
grid,执行在device上;
4. CUDA内的执行流程
>加载核函数
>grid分配到device
>根据<<<..>>>中的参数,把block分配到SM
>根据<<<..>>>中的参数,Warp调度器启用线程thread
>把32个thread分为1组,称作一个Warp
>每个Warp分配到32个core上运行