OpenCL

1、基本架构

  1.1 硬件层：

    以下是OpenCL硬件层的抽象

  

 

 它是一个Host（控制处理单元，通常由一个CPU担任）和一堆Computer Device（计算处理单元，通常由一些GPU、CPU其他支持的芯片担任），其中Compute Device切分成很多Processing Element（这是独立参与单数据计算的最小单元，这个不同硬件实现都不一样，如GPU可能就是其中一个Processor，而CPU可能是一个Core，我猜的。。因为这个实现对开发者是隐藏的），其中很多个Processing Element可以组成组为一个Computer Unit，一个Unit内的element之间可以方便的共享memory，也只有一个Unit内的element可以实现同步等操作。

2、基本概念

OpenCL程序同CUDA程序一样，也是分为两部分，一部分是在主机（以CPU为核心）上运行，一部分是在设备（以GPU为核心）上运行。在设备上运行的程序被称为核函数。但是对于核函数的编写，CUDA一般直接写在程序内，OpenCL是写在一个独立的文件中，并且文件后缀是.cl，由主机代码读入后执行，这一点OpenCL跟OpenGL中的渲染程序很像。

设备（Device）： GPU及其显存组成的计算系统。

核函数（Kernel）： 是在设备程序上执行运算的入口函数，在主机上调用。

SIMT（Single Instruction Multi Thread）： 单指令多线程，GPU并行运算的主要方式，很多个多线程同时执行相同的运算指令，当然可能每个线程的数据有所不同，但执行的操作一致。

工作项（Work-item）： 跟CUDA中的线程（Threads）是同一个概念，N多个工作项（线程）执行同样的核函数，每个Work-item都有一个唯一固定的ID号，一般通过这个ID号来区分需要处理的数据。

工作组（Work-group）：跟CUDA中的线程块（Block）是同一个概念，N多个工作项组成一个工作组，Work-group内的这些Work-item之间可以通信和协作。

ND-Range： 跟CUDA中的网格是同一个概念，定义了Work-group的组织形式。

主机（Host）： CPU及其内存组成的计算系统。

平台（Platform）： 主机和OpenCL管理框架下的若干个设备构成了一个品台，所有GPU操作都限定这这个选择的Platform上运行。OpenCL编程的第一步就是选择并初始化一个平台。

上下文（Context）： 定义了整个OpenCL的运行环境，包括Kernel、Device、内存管理和指令队列等。

指令队列（Command-Queue）： 一些需要在设备上执行的OpenCL指令的集合。