CUDA编程（三）：Hello world

CUDA编程

CUDA是Compute Unified Device Architecture的缩写，由英伟达公司2007年开始推出，初衷是为GPU增加一个易用的编程接口，让开发者无需学习复杂的着色语言或者图形处理原语。

CUDA提供两层API供开发者使用：

• CUDA driver：低级API，较难使用，但是对GPU设备提供了更多的控制。
• CUDA runtime：基于CUDA driver构建的一套高级API，更容易使用。

Hello world

学习任何一门编程语言，一般都是从Hello world程序入手，在此展示了CUDA编程的Hello world程序代码：

#include<stdio.h>
	
__global__ void hello_world(void){
	printf("GPU：Hello World!\n");
}

int main(void){
	// CPU：Hello World!
	printf("CPU：Hello World!\n");

	// GPU：Hello World!
	hello_world<<<1, 10>>>();
	// 错误处理
	cudaError_t err = cudaGetLastError();
	if (err != cudaSuccess) {
    		printf("CUDA Error: %s\n", cudaGetErrorString(err));
    		// Possibly: exit(-1) if program cannot continue....
	} 
	// 函数cudaDeviceReset()用来显式地释放和清空当前进程中与当前设备有关的所有资源。
	cudaDeviceReset();

	return 0;
}

通常，CPU 调用核函数的同时，会指定执行该核函数的线程块数量和每个线程块中线程的数量。这也就意味着，核函数中的内容会被并行地执行线程块的数量 × 每个线程块内的线程数量次！hello_world <<<1, 10>>>();是调用了10个线程，执行上面的hello_world程序，会打印出10个GPU：Hello World!，这个就是SIMD，即单指令多线程，多个线程执行相同的指令。

在Linux系统中，使用nvidia-smi指令查看是否有NVIDIA加速卡：

nvcc -V检查nvcc编译器是否正确安装：

若均有正常输出，则说明已配置好软硬件环境。运行如下指令：

# 编译
nvcc -arch sm_50 hello_world.cu -o hello_world
# 运行
./hello_world

结果如下图所示：

注：查看自己的显卡计算能力（算力）修改sm_50，若使用的算力过高，可能会出现编译不报错，但执行时出现如下报错:

CUDA Error: no kernel image is available for execution on the device