OpenCL编程指南-9.1命令、队列、事件

概述

命令队列是OpenCL的核心。平台定义了一个上下文，其中包含一个或多个计算设备。每个计算设备可以有一个或多个命令队列。提交到这些队列的命令将完成OpenCL程序的具体工作。

在一个简单的OpenCL程序中，提交到一个命令队列的命令会按顺序执行。一个命令完成后，下一个命令才能开始，程序会展开为一个有严格顺序的命令序列。各个命令存在大量并发性时，这种有序方法能够提供应用程序所需要的性能。

不过，实际的应用程序通常并没有这么简单。大多数情况下，应用程序不需要严格有序地执行命令。执行其他命令的同时，内存对象可以在设备和宿主机之间移动。处理不相关内存对象的命令可以并发执行。在一般的应用程序中，同时运行的命令会提供充分的并发性。这种并发性可以由运行时系统加以利用，来增加可实现的并行性，从而得到显著的性能提升。

还有一种常见的情况，即命令之间的依赖性能够表述为一个有向无环图（Directed AcyclicGraph，DAG)。这种图可能包含独立的分支，可以安全、并发地运行。如果要求这些命令以串行顺序运行，就会对系统带来不必要的约束。无序的命令队列允许系统充分利用这些命令之间的并发性，不过还有更多并发性可以利用。对于可能与不同计算设备关联的不同命令队列，通过在这些命令队列上运行DAG的独立分支，可以利用大量额外的并发性。

这些例子有一个共同的特点，应用程序有很多机会实现并发性，