CUDA软件环境

CUDA是什么？
CUDA，全称是Compute Unified Device Architecture，英伟达在2007年推出这个统一计算架构，为了让GPU有可用的编程环境，从而能通过程序控制底层的硬件进行计算。说白了就是让C和C++不仅能调用CPU，还能调用英伟达公司的GPU，这就是CUDA的意义，并且可以通过执行大量的线程而达到并行的目的。3.0才开始支持C++，从7.开始支持C++11。
CUDA软件体系可以分为三层结构：

	CUDA函数库 （CUDA Library） 最高层
	CUDA运行时间API (Runtime API) 中间层
	CUDA驱动API (Driver API) 最底层

根据这三层的关系，可以根据任意一层，结合对应的API来进行CUDA编程，这就是CUDA的软件体系。

CUDA应用程序可以通过直接调用底层的CUDA驱动来调用GPU硬件进行并行计算。
对一些标准的数学函数计算，也可以直接调用CUFFT，CUBLAS以及CUDPP等标准函数库进一步简化编程过程。最终的目的是为了把GPU的设备使用起来。

CUDA可以通过两种方式调用底层GPU硬件：驱动API和运行API。

驱动API是一种基于句柄的底层接口，大多数对象通过句柄被引用，其函数前缀均为cu,只要是看到cu开头，都是使用了驱动API写的程序。

如果是runtimeAPI的话，那么前缀是cuda。

cuda函数库特别有用

CUDA提供了几个较为成熟的高效函数库，程序员可以直接调用这些函数库进行计算，因而大大简化了程序员的工作量。其中最常用的包括：
CUFFT （利用CUDA进行傅里叶变换的函数库）
CUBLAS（利用CUDA进行加速版本的完整标准矩阵与向量的运算库）
CUDPP（常用的并行操作函数库）
CUDNN（利用CUDA进行深度卷积神经网络，深度学习常用）

编译的时候不能只有GCC，还需要NVCC这个编译器，NVCC能区分运行在CPU上的host代码和运行在GPU上的device代码。