众所周知,CUDA并行可以使代码加速很多倍,其文件类型为.cu 结尾。在编写cu 文件时,常用的函数前缀关键字有 device, global, host。
- host C或者C++中相同,是由CPU调用,由CPU执行的函数
- global 表示一个内核函数,是一组由GPU执行的并行计算任务,以foo<<>>(a)的形式或者driver API的形式调用。每一个执行内核函数的线程都由一个唯一的线程ID,这一ID可以通过在内核函数中访问threadIdx变量来得到。
- device 则表示一个由GPU中一个线程调用的函数。由于Tesla架构的GPU允许线程调用函数,因此实际上是将__device__ 函数以__inline形式展开后直接编译到二进制代码中实现的,并不是真正的函数。
__global__ void addKernel(int *c, const int *a, const int *b)
{
int i = threadIdx.x;
c[i] = a[i] + b[i];
}
在GPU中执行时,以下面执行
// Launch a kernel on the GPU with one thread for each element.
addKernel<<<1, size>>>(vev_c, vev_a, vev_b);