OpenCL的整体工作流程

已于 2024-07-28 13:38:41 修改
阅读量244 收藏 2
点赞数 6
分类专栏： OpenCL入门及优化 文章标签： 经验分享 算法 c语言
于 2024-07-21 12:03:06 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_43116001/article/details/140584926
版权

这篇文章的重点是啥：

关于OpenCL整体工作流程的文章有很多，比较好的有知乎华叔的文章和OpenCL 2.0 异构计算。流程他们已经讲得很详细了，我就不简单重复了，这篇博客主要是弄一个可运行代码，然后，强调一些我觉得重要的东西。

OpenCL的工作流程

创建并执行一个简单的OpenCL应用大致需要以下几步：

  • 查询平台和设备信息
  • 创建一个上下文
  • 为每个设备创建一个命令队列
  • 创建一个内存对象(数组)用于存储数据
  • 拷贝输入数据到设备端
  • 使用OpenCL C代码创建并编译出一个程序
  • 从编译好的OpenCL程序中提取内核
  • 执行内核
  • 拷贝输出数据到主机端
  • 释放资源
    在下面的代码中，很容易找到对应的代码。

简单的可运行代码

这里复用了前面Windows下环境配置中的代码，运行时输出Result: 3即为正确运行。

#include <CL/cl.h>
#include <iostream>

const int N = 1024;
const size_t size = N * N * sizeof(float);

const char* getErrorString(cl_int error) {
	switch (error) {
		// run-time and JIT compiler errors
	case 0: return "CL_SUCCESS";
	case -1: return "CL_DEVICE_NOT_FOUND";
	case -2: return "CL_DEVICE_NOT_AVAILABLE";
	case -3: return "CL_COMPILER_NOT_AVAILABLE";
	case -4: return "CL_MEM_OBJECT_ALLOCATION_FAILURE";
	case -5: return "CL_OUT_OF_RESOURCES";
	case -6: return "CL_OUT_OF_HOST_MEMORY";
	case -7: return "CL_PROFILING_INFO_NOT_AVAILABLE";
	case -8: return "CL_MEM_COPY_OVERLAP";
	case -9: return "CL_IMAGE_FORMAT_MISMATCH";
	case -10: return "CL_IMAGE_FORMAT_NOT_SUPPORTED";
	case -11: return "CL_BUILD_PROGRAM_FAILURE";
	case -12: return "CL_MAP_FAILURE";
	case -13: return "CL_MISALIGNED_SUB_BUFFER_OFFSET";
	case -14: return "CL_EXEC_STATUS_ERROR_FOR_EVENTS_IN_WAIT_LIST";
	case -15: return "CL_COMPILE_PROGRAM_FAILURE";
	case -16: return "CL_LINKER_NOT_AVAILABLE";
	case -17: return "CL_LINK_PROGRAM_FAILURE";
	case -18: return "CL_DEVICE_PARTITION_FAILED";
	case -19: return "CL_KERNEL_ARG_INFO_NOT_AVAILABLE";

		// compile-time errors
	case -30: return "CL_INVALID_VALUE";
	case -31: return "CL_INVALID_DEVICE_TYPE";
	case -32: return "CL_INVALID_PLATFORM";
	case -33: return "CL_INVALID_DEVICE";
	case -34: return "CL_INVALID_CONTEXT";
	case -35: return "CL_INVALID_QUEUE_PROPERTIES";
	case -36: return "CL_INVALID_COMMAND_QUEUE";
	case -37: return "CL_INVALID_HOST_PTR";
	case -38: return "CL_INVALID_MEM_OBJECT";
	case -39: return "CL_INVALID_IMAGE_FORMAT_DESCRIPTOR";
	case -40: return "CL_INVALID_IMAGE_SIZE";
	case -41: return "CL_INVALID_SAMPLER";
	case -42: return "CL_INVALID_BINARY";
	case -43: return "CL_INVALID_BUILD_OPTIONS";
	case -44: return "CL_INVALID_PROGRAM";
	case -45: return "CL_INVALID_PROGRAM_EXECUTABLE";
	case -46: return "CL_INVALID_KERNEL_NAME";
	case -47: return "CL_INVALID_KERNEL_DEFINITION";
	case -48: return "CL_INVALID_KERNEL";
	case -49: return "CL_INVALID_ARG_INDEX";
	case -50: return "CL_INVALID_ARG_VALUE";
	case -51: return "CL_INVALID_ARG_SIZE";
	case -52: return "CL_INVALID_KERNEL_ARGS";
	case -53: return "CL_INVALID_WORK_DIMENSION";
	case -54: return "CL_INVALID_WORK_GROUP_SIZE";
	case -55: return "CL_INVALID_WORK_ITEM_SIZE";
	case -56: return "CL_INVALID_GLOBAL_OFFSET";
	case -57: return "CL_INVALID_EVENT_WAIT_LIST";
	case -58: return "CL_INVALID_EVENT";
	case -59: return "CL_INVALID_OPERATION";
	case -60: return "CL_INVALID_GL_OBJECT";
	case -61: return "CL_INVALID_BUFFER_SIZE";
	case -62: return "CL_INVALID_MIP_LEVEL";
	case -63: return "CL_INVALID_GLOBAL_WORK_SIZE";
	case -64: return "CL_INVALID_PROPERTY";
	case -65: return "CL_INVALID_IMAGE_DESCRIPTOR";
	case -66: return "CL_INVALID_COMPILER_OPTIONS";
	case -67: return "CL_INVALID_LINKER_OPTIONS";
	case -68: return "CL_INVALID_DEVICE_PARTITION_COUNT";

		// extension errors
	case -1000: return "CL_INVALID_GL_SHAREGROUP_REFERENCE_KHR";
	case -1001: return "CL_PLATFORM_NOT_FOUND_KHR";
	case -1002: return "CL_INVALID_D3D10_DEVICE_KHR";
	case -1003: return "CL_INVALID_D3D10_RESOURCE_KHR";
	case -1004: return "CL_D3D10_RESOURCE_ALREADY_ACQUIRED_KHR";
	case -1005: return "CL_D3D10_RESOURCE_NOT_ACQUIRED_KHR";
	default: return "Unknown OpenCL error";
	}
}

void CheckError(cl_int error) {
	if (error != CL_SUCCESS) {
		std::cerr << "Error occurred at file: " << __FILE__ << ", line: " << __LINE__<<" with status "<< getErrorString(error) << std::endl;
		exit(1);
	}
}

int main() {
    // 初始化输入矩阵
    float* A = new float[N * N];
    float* B = new float[N * N];
    for (size_t i = 0; i < N * N; i++)
    {
        A[i] = 1.0f;
        B[i] = 2.0f;
    }

    cl_platform_id platform;
    cl_int status;

    status=clGetPlatformIDs(1, &platform, NULL);
	CheckError(status);
    cl_device_id device;
	status = clGetDeviceIDs(platform, CL_DEVICE_TYPE_GPU, 1, &device, NULL);
	CheckError(status);
    cl_context context = clCreateContext(NULL, 1, &device, NULL, NULL, &status);
	CheckError(status);
    cl_command_queue queue = clCreateCommandQueueWithProperties(context, device, 0, &status);
	CheckError(status);

    // 创建OpenCL内存缓冲区
    cl_mem bufferA = clCreateBuffer(context, CL_MEM_READ_ONLY, size, NULL, &status);
    cl_mem bufferB = clCreateBuffer(context, CL_MEM_READ_ONLY, size, NULL, &status);
    cl_mem bufferC = clCreateBuffer(context, CL_MEM_WRITE_ONLY, size, NULL, &status);
	CheckError(status);

    // 将输入数据传输到OpenCL缓冲区
	status = clEnqueueWriteBuffer(queue, bufferA, CL_TRUE, 0, size, A, 0, NULL, NULL);
	status = clEnqueueWriteBuffer(queue, bufferB, CL_TRUE, 0, size, B, 0, NULL, NULL);
	CheckError(status);

    const char* source = "__kernel void add_matrices(__global const float* A, __global const float* B, __global float* C) { int id = get_global_id(0); C[id] = A[id] + B[id]; }";
    cl_program program = clCreateProgramWithSource(context, 1, &source, NULL, &status);
	CheckError(status);
	status = clBuildProgram(program, 1, &device, NULL, NULL, NULL);
	CheckError(status);
    cl_kernel kernel = clCreateKernel(program, "add_matrices", &status);
	CheckError(status);

    // 设置OpenCL内核参数
	status = clSetKernelArg(kernel, 0, sizeof(cl_mem), &bufferA);
	status = clSetKernelArg(kernel, 1, sizeof(cl_mem), &bufferB);
	status = clSetKernelArg(kernel, 2, sizeof(cl_mem), &bufferC);
	CheckError(status);

    // 启动内核
    size_t globalWorkSize[2] = { N, N };
	status = clEnqueueNDRangeKernel(queue, kernel, 2, NULL, globalWorkSize, NULL, 0, NULL, NULL);
	CheckError(status);

    // 读取结果数据
	status = clEnqueueReadBuffer(queue, bufferC, CL_TRUE, 0, size, A, 0, NULL, NULL);
	CheckError(status);

    // 清理OpenCL资源
	status = clReleaseMemObject(bufferA);
	status = clReleaseMemObject(bufferB);
	status = clReleaseMemObject(bufferC);
	status = clReleaseProgram(program);
	status = clReleaseKernel(kernel);
	status = clReleaseCommandQueue(queue);
	status = clReleaseContext(context);
	CheckError(status);

    // 打印结果
    std::cout << "Result: " << A[1023] << std::endl;

    delete[] A;
    delete[] B;

    return 0;
}

保留了之前逻辑的同时，此处的重要区别是，引入了void CheckError(cl_int error)函数，用于校验每个环节执行结束后的状态值。

整体流程中需要注意的点

  • 在本地调试阶段，建议监控每一个可能出错位置的状态值
    • 状态值是OpenCL反馈错误的唯一方式，如果没有状态值，排查错误几乎是不可能进行的；状态值可以作为排除错误的重要参考
    • 通常，OpenCL相关的错误一般都是可稳定复现的，当多次计算相同数据时状态值出错位置不同时，请优先考虑是否在其它环节有比较重大的内存泄漏
    • 每个返回状态值的函数，都会有关于状态值对应的原因的描述，因此，当返回状态值有误，且无法凭借状态值信息直接得知出错原因时，可以查看该函数官方描述中关于该状态值的信息，以排除当前可能存在的错误
  • 程序退出时记得释放系统资源
    • OpenCL中利用Create创建的资源都需要释放，例如，此处的MemObject、Program、Kernel、CommandQueue、Context。创建的资源对系统而言是比较大的负担，当你在某个程序中多次创建资源而不释放时，系统内存占用将会显著增加直至无法创建新的资源。
我还能学！！！
关注
专栏目录
极智AI | OpenCL 使用流程解析
极智视界
02-17 811
大家好，我是极智视界。本文介绍了 OpenCL 的使用流程。
OpenCL程序启动流程
纸上谈芯的专栏
04-22 3169
OpenCL程序启动流程 ==============================================================目录结构1、OpenCL设备整体连接图2、OpenCL基本点与Host主机引导流程图    2.1 OpenCL设备    2.2 OpenCL编译方式    2.3 调用核函数方式    2.4 Host程序启动流程3、参考 ===========...
OpenCL基本开发过程
qq_44781747的博客
07-19 355
OpenCL基本开发过程 为了兼顾不同设备，OpenCL程序的第一步要确定执行OpenCL的平台 确定执行OpenCL计算的设备 创建上下文，上下文包括前面确定的OpenCL设备以及后面要创建的内存对象、程序对象和内核 创建命令队列，主机与OpenCL设备间数据传输、执行内核等交互操作都要入队到命令队列中 创建内存对象，分配内存空间 从*.cl文件中读取内核源码，创建程序对象，编译程序对象，最后创建内核 设置内核参数，设置工作组和工作项的参数 将内核函数入队到命令队列中，命令队列提交给相应的OpenCL设
OpenCL执行
B1009的博客
01-18 508
首先OpenCL同一个Command Queue中的Kernel 是按照顺序执行的。Kernel1、Kernel2、Kernel3依次如commandQueue.执行顺序如图所示。我们知道在Kernel的时候其实CPU端和GPU端可以进行交互的。然而，内核不是唯一可以在命令队列上排队的对象。内核需要数据才可执行其操作，而数据需要传送给设备以使用，这些数据可以是OpenCL缓冲区/子缓冲区或图像对象
OpenCL 执行模型
huabiaochen的博客
12-29 453
需要指出的是，执行原生内核是OpenCL的一个可选功能，原生内核的语义依赖于具体OpenCL实现。主机端程序运行在主机处理器上，主机端程序以命令方式将内核程序从主机提交到OpenCL设备，OpenCL设备在处理单元上执行计算。根据这两个不同执行单元定义了OpenCL执行模型。由于OpenCL设备通常没有IO处理能力，因此IO操作通常由主机承担，这意味着程序开始执行时，数据通常都在主机上，故OpenCL设备需要从主机上获得数据，在OpenCL设备计算完成后，又需要将数据从OpenCL设备复制回主机。
OpenCL 教程：从基础到实践
最新发布
jiayoushijie的博客
06-23 4894
OpenCL（Open Computing Language）是一个开放标准的并行编程框架，用于在异构系统上编写高性能计算程序。它允许开发者利用各种计算设备（如 CPU、GPU、FPGA 等）来加速计算密集型任务。通过本教程，我们已经深入探讨了 OpenCL 的核心概念、编程模型、内存模型和执行模型。我们还通过实际的例子展示了如何实现和优化 OpenCL 程序。记住，优化是一个迭代的过程。始终使用性能分析工具来测量你的优化效果，并根据具体的硬件和问题特性来调整你的策略。
OpenCL学习笔记——整体流程（向量相加）
Sca_Lian的博客
08-18 625
该函数把要执行的 Kernel 函数放在指定的命令队列中，global_work_size大小（线程索引空间）必须指定，local_work_size大小可以指定，也可以为空。命令队列中的命令 (kernel 函数）可能是同步的，也可能是异步的，它们的执行顺序可以是有序的，也可以是乱序的。大家可以去网上下载一下“GPU-Z”这个软件，这个软件可以查看电脑的显卡对OpenCL的支持性，以及支持的版本，我的电脑的如下图可见，有√就是支持的（当你把鼠标移动到单词周围会有适配版本提示）。...
OpenVX 与 OpenCL 互操作方法
04-12
OpenVX与OpenCL互操作扩展的目的是提供一种机制，使得OpenVX实现能够与OpenCL应用程序或用户内核无缝交互。这旨在让开发者能够利用OpenVX的高效能图像处理能力和OpenCL的高性能计算能力，为计算机视觉任务创建更复杂...
OpenCL中文入门完整教程
10-31
- **OpenCL平台模型**：OpenCL平台模型包括平台、设备、上下文、命令队列、内存对象、程序对象、Kernel对象等基本概念。 - **OpenCL编程的一般步骤**： - 创建上下文和命令队列； - 定义内存对象； - 编写Kernel...
多线程OpenCL
08-10
在多核CPU环境中，多线程能够让每个核心工作负载更均衡，避免单个核心过载，提高整体性能。 2. **OpenCL简介** OpenCL（Open Computing Language）是Khronos Group推出的一种跨平台的并行编程框架，它允许开发者...
opencl 安装过程
02-11
opencl 的安装过程 ，自己总结的！
opencl示例程序
04-12
一个opencl入门的示例程序，亲自跑通。vs2013，n卡。 程序来源为http://www.cnblogs.com/zenny-chen/archive/2013/06/14/3136158.html，，经过自己的少量修改
OpenCL规范
05-29
OpenCL（Open Computing Language）是一种为异构平台设计的框架，旨在提供一种高效、灵活且可移植的方式来编写可在多种平台上运行的应用程序，包括CPU、GPU以及其他类型的处理器。该规范由Khronos Group制定并维护，...
编写OpenCL程序的流程
weixin_36023181的博客
09-19 1280
本文目的 本文将简单介绍编写一般OpenCL程序的流程，并将每个步骤调用的API function列出来。 OpenCL程序编写流程 1、获取当前存在的有效的平台（platform），实际上可以理解为device的发行商，如因特尔、AMD等。（clGetPlatformIDs） 2、选择获取到的平台中的其中一个，获取该平台当前存在的有效的设备（device），如CPU、GPU card。（clGetDeviceIDs） 3、创建OpenCL context，context可以理解为是在host上的一个抽象的
OpenCL教程
songweiren1的博客
05-17 1062
详情请看：https://www.cnblogs.com/leiben/archive/2012/06/05/2536508.html 这是第一篇真正的OpenCL教程。这篇文章不会从GPU结构的技术概念和性能指标入手。我们将会从OpenCL的基础API开始，使用一个小的kernel作为例子来讲解基本的计算管理。 首先我们需要明白的是，OpenCL程序是分成两部分的：一部分是在设备上执行的（对于我们，是GPU），另一部分是在主机上运行的（对于我们，是CPU）。在设备上执行的程序或许是你比较关注的。它是O
Opencl编程的标准开发流程
qq_41228014的博客
03-04 546
Opencl编程的标准开发流程前言OpenCL执行流程 前言 在前面的内容中介绍 了opencl编程环境的搭建方式环境搭建，本篇文章以为例讲述opencl编程的标准开发流程 编程环境：VS2015 + Intel® UHD Graphics 620 OpenCL执行流程 1.创建OpenCL程序第一步是要确定其执行的平台，clGetPlatFormIDs： cl_int clGetPlatFormIDs(cl_uint num_entries, cl_platform _id * platforms,
OpenCL环境配置及测试程序
纸上谈芯的专栏
04-05 6590
OpenCL环境配置及测试程序 ==============================================================目录结构1、OpenCL环境配置2、测试程序3、参考 ==============================================================关键词：OpenCL 环境配置 测试程序OpenCL（Open C...
OPENCL之学习手记（chapter2）以及平台搭建和程序执行步骤
I AM BACK
02-22 2132
OpenCL标准（OpenCL standard）： OpenCL说明（OpenCL specification）： OpenCL的执行模型和kernel： OpenCL的平台和设备： OpenCL的执行环境： OpenCL的内存模型： OpenCL的kernel的书写： 附上整个向量加法的代码：
使用OpenCL进行Haskell数字图像处理
3. **并行思想**：在处理图像时，大量像素操作可以并行执行，OpenCL通过工作项（work-item）、工作组（work-group）和NDRange（n-dimensional range）的概念，让开发者能够高效地组织并行计算任务。 4. **OpenCL...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值