VS2017 CUDA编程学习5：CUDA并行执行-线程

VS2017 CUDA编程学习1：CUDA编程两变量加法运算
VS2017 CUDA编程学习2：在GPU上执行线程
VS2017 CUDA编程学习3：CUDA获取设备上属性信息
VS2017 CUDA编程学习4：CUDA并行处理初探 - 向量加法实现

---

前言

今天学习了CUDA编程中关于线程的知识，这里做下笔记并分享给大家。

---

1. 线程

CUDA并行执行具有分层结构。每次内核启动时可被切分成多个并行执行的块，每个块又可以进一步被切分成多个线程，这也就是我们常说的内核函数配置参数：块数以及每个块的线程数。

并行执行的方式有多种，可以启动多个并行的块，每个块启动1个线程；也可以启动1个块，这个块启动多个线程；一般用的最多的内核参数配置是启动多个并行的块，每个块也启动多个线程，但是设备中每个块可以启动的线程数量是有上限的（1024个线程），这点要尤其注意。

当启动多个并行块，每个块也启动多个线程时，在内核函数中线程索引计算公式：
$线程索引=当前块线程索引$