OpenCL使用GPU滤波

OpenCL使用GPU滤波

最近开始研究OpenCL,以便在需要大量计算时,用GPU来加速。

为了实用性,结合工作,编写第一个OpenCL的程序。

为了实用,我选择以前做的数字滤波来作为本次的设计目标。我们的数字滤波,主要是用FIR滤波,需要滤波的数据是多通道的电生理数据,滤波系数是使用Matlab仿真的,原始数据是通过多道生理记录仪采集的数据。以前的滤波程序是在CPU上完成的。现在把它移到GPU上完成,就当是一次实验和学习OpenCL的机会。

第一步下载CUDA(因为我用的是NVidia的显卡,如果使用ATI的显卡,需要下载AMD APP(其前身是 ATI Stream),目前版本2.7,可到网上搜索下载)

 CUDA 下载 (版本4.2)

http://developer.nvidia.com/cuda/cuda-downloads

下载完后安装。安装就不介绍了。注意安装的路径,下面要用到。

第二步 VS2008设置

工具->选项

项目->属性

可能你的安装目录跟我的不一样,设置成你的安装目录就可以了。

其它设置可以在网上查。或者 百度文库

http://wenku.baidu.com/view/cb77e4926bec0975f465e238.html

第三步开始编程。

为了实用和可重用,做成一个C++类。这个类必须包含3个函数,InitCL初始化, Uninit释放, Filter_GPU滤波,Filter_GPU可能会反复调用。

首先是初始化CL

//初始化OpenCL

BOOL CFilter::InitCL()

{

  

   if(m_bInitCL)

   {

      return FALSE;

   }

   cl_int iError = 0;   // 错误代码

 

   // Platform

   iError = clGetPlatformIDs(1,&m_clPlatform_id,NULL);

   if (iError != CL_SUCCESS)

   {

       TRACE("Error getting platform id \n");

      exit(iError);

   }

   // Device

   iError = clGetDeviceIDs(m_clPlatform_idCL_DEVICE_TYPE_GPU, 1, &m_clDevice_idNULL);

   if (iError != CL_SUCCESS)

   {

      TRACE("Error getting device ids \n");

      exit(iError);

   }

   // Context

   m_clContext = clCreateContext(0, 1, &m_clDevice_idNULLNULL, &iError);

   if (iError != CL_SUCCESS)

   {

      TRACE("Error creating context \n");

      exit(iError);

   }

   // Command-queue

   m_clQueue = clCreateCommandQueue(m_clContextm_clDevice_id, 0, &iError);

   if (iError != CL_SUCCESS)

   {

      TRACE("Error creating command queue \n");

      exit(iError);

   }

   上面的代码没什么特殊的,照着写就行了

 

   CString strPath;

   GetCurrentDirectory(MAX_PATH,strPath.GetBuffer(MAX_PATH));//获得当前路径

   strPath.ReleaseBuffer();

  

   CString strNewPath = strPath"\\testgpu.cl";//找cl文件

  

   size_t src_size = 0;

  

   CFileFind ff;

   if(!ff.FindFile(strNewPath))

   {

      AfxMessageBox("在当前目录没有找到OpenCL的文件testgpu.cl");

      return FALSE;

   }

   ff.Close();

   //读取*.cl中的内容到内存

   CFile *pFile =NULL;

   try

   {

      pFile = new CFile(strNewPath,CFile::modeRead);

   }

   catch (CExceptione)

   {

      e->Delete();

      AfxMessageBox(打开文件testgpu.cl 出错");

      return FALSE;

   }

  

   int iFileLen = pFile->GetLength();

   const charsource = new char[iFileLen + 1];

   ZeroMemory((void*)source,iFileLen + 1);

   pFile->Read((void *)source,iFileLen);//读取文件

   delete pFile;

   pFile = NULL;

   // Creates the program

  m_clProgram = clCreateProgramWithSource(m_clContext, 1, &source, &src_size, &iError);//加载文件内容

   ASSERT(iError == CL_SUCCESS);

 

   delete source;

   source = NULL;

   // Builds the program

   iError = clBuildProgram(m_clProgram, 1, &m_clDevice_idNULLNULLNULL);//编译cl程序

   ASSERT(iError == CL_SUCCESS);

 

   // Shows the log

   charbuild_log;

   size_t log_size;

   // First call to know the proper size

  clGetProgramBuildInfo(m_clProgramm_clDevice_idCL_PROGRAM_BUILD_LOG, 0, NULL, &log_size);

   build_log = new char[log_size+1];//编译CL的出错记录

   // Second call to get the log

   clGetProgramBuildInfo(m_clProgramm_clDevice_idCL_PROGRAM_BUILD_LOGlog_sizebuild_log,NULL);

   build_log[log_size] = '\0';

   CString strLog(build_log);

   TRACE(strLog + "\n");//因为cl程序是在运行时编译的,在运行过程中如果出错,显示编译CL文件的错误,以便查找问题

   delete build_log;

   build_log = NULL;

 

创建两个Kernel对应两个函数

   // Extracting the kernel

   m_clKernel = clCreateKernel(m_clProgram"Filter_GPU_Single", &iError);//单通道滤波,这个引号中的字符串要对应cl文件中的kernel函数

   ASSERT(iError == CL_SUCCESS);

   m_clKernel1 = clCreateKernel(m_clProgram"Filter_GPU_Multi", &iError);//多通道滤波,这个引号中的字符串要对应cl文件中的kernel函数

   ASSERT(iError == CL_SUCCESS);

   m_bInitCL = TRUE;//初始化成功

   return TRUE;

}

释放就比较简单

BOOL CFilter::Uninit()

{//释放资源

   if(!m_bInitCL)

   {

      return FALSE;

   }

   clReleaseKernel(m_clKernel);

   clReleaseKernel(m_clKernel1);

 

   clReleaseCommandQueue(m_clQueue);

 

   clReleaseContext(m_clContext);

   return TRUE;

}

下面开始写滤波函数

//用OpenCL(GPU)计算单通道滤波 iDataNum 数据总个数

BOOL CFilter::Filter_GPU(float *pBufferIn,float *pBuferOut,const int iDataNum)

{

   if(!m_bInitCL || !m_bInitFilter)

   {

      return FALSE;

   }

   if(pBufferIn == NULL || pBuferOut == NULL || iDataNum <=0 )

   {

      return FALSE;

   }

   cl_int iError = 0;   // Used to handle iError codes

   const int iMem_size = sizeof(float)*m_iFilterLen;

   int iSrcLen = m_iFilterLen + iDataNum -1;

   if(m_pSrcBuffer == NULL || m_iSrcBufferLen < iSrcLen)

   {//没有申请缓冲或者缓冲太小,需要申请缓冲

      if(m_pSrcBuffer)

      {//删除重新申请

        delete m_pSrcBuffer;

        m_pSrcBuffer = NULL;

      }

      m_iSrcBufferLen = iSrcLen;

      m_pSrcBuffer = new float[m_iSrcBufferLen];

   }

   //准备数据

   memcpy(m_pSrcBuffer,m_pDataSave + 1,(m_iFilterLen - 1) * sizeof(float));//把上一次的数据尾的数据拷到源数据缓冲头

   memcpy(m_pSrcBuffer + m_iFilterLen -1,pBufferIn,iDataNum * sizeof(float));//拷贝源数据

   memcpy(m_pDataSave,pBufferIn + iDataNum - m_iFilterLen,m_iFilterLen * sizeof(float));//把本次的数据尾的数据暂存,以便下次使用

 

   //建立CL缓冲

   cl_mem pSrcBuffer_CL  = clCreateBuffer(m_clContextCL_MEM_READ_ONLY |CL_MEM_COPY_HOST_PTRiSrcLen * sizeof(float), m_pSrcBuffer, &iError);   //源数据

   cl_mem FilterBuffer_CL = clCreateBuffer(m_clContextCL_MEM_READ_ONLY |CL_MEM_COPY_HOST_PTRiMem_sizem_pFilterBuffer, &iError);           //滤波系数

   cl_mem pBufferOut_CL  = clCreateBuffer(m_clContextCL_MEM_WRITE_ONLYiSrcLen * sizeof(float),NULL, &iError);                      //结果

 

   const int iFilterLen = m_iFilterLen;

   //设置Kernel函数参数

   iError =  clSetKernelArg(m_clKernel, 0, sizeof(cl_mem), &pSrcBuffer_CL);

   iError |= clSetKernelArg(m_clKernel, 1, sizeof(cl_mem), &FilterBuffer_CL);

   iError |= clSetKernelArg(m_clKernel, 2, sizeof(cl_mem), &pBufferOut_CL);

   iError |= clSetKernelArg(m_clKernel, 3, sizeof(size_t), &iDataNum);

   iError |= clSetKernelArg(m_clKernel, 4, sizeof(size_t), &iFilterLen);

   // 执行kernel函数

   const size_t global_ws = iDataNum// Total number of work-items

   iError = clEnqueueNDRangeKernel(m_clQueuem_clKernel, 1, NULL, &global_wsNULL, 0, NULLNULL);

   //读取结果数据

   iError = clEnqueueReadBuffer(m_clQueuepBufferOut_CLCL_TRUE, 0, iDataNum * sizeof(float),pBuferOut, 0, NULLNULL);

   //释放CL缓冲

   clReleaseMemObject(pSrcBuffer_CL);

   clReleaseMemObject(FilterBuffer_CL);

   clReleaseMemObject(pBufferOut_CL);

   return TRUE;

}

//用OpenCL(GPU)多通道滤波,iDataNum 数据总个数,iFrameLen 帧长度bFrameOrder = TRUE 按帧排列,bFrameOrder = FALSE 按通道排列

BOOL CFilter::Filter_GPU(float *pBufferIn,float *pBuferOut,const int iDataNum,const int iFrameLen,BOOLbFrameOrder)

{

   if(!m_bInitCL || !m_bInitFilter)

   {

      return FALSE;

   }

   if(pBufferIn == NULL || pBuferOut == NULL || iDataNum <=0 || iFrameLen <=0)

   {

      return FALSE;

   }

   cl_int iError = 0;   // Used to handle iError codes

   int i =0;

 

   int iSrcLen = ((m_iFilterLen - 1 ) *iFrameLen + iDataNum );

 

   if(m_pSrcBuffer == NULL || m_iSrcBufferLen < iSrcLen)

   {//没有申请缓冲或者缓冲太小,需要申请缓冲

      if(m_pSrcBuffer)

      {//删除重新申请

        delete m_pSrcBuffer;

        m_pSrcBuffer = NULL;

      }

      m_iSrcBufferLen = iSrcLen;

      m_pSrcBuffer = new float[m_iSrcBufferLen];

   }

   //准备数据

   int iFrames = iDataNum / iFrameLen;

   int iBlockLen = iFrames + m_iFilterLen - 1;

   if(bFrameOrder)

   {//按帧排列

      for(i =0;iiFrameLen;i++)

      {//把上一次的数据尾的数据拷到源数据的每个段缓冲头

        memcpy(m_pSrcBuffer + i * iBlockLen,m_pDataSave + i * m_iFilterLen + 1,(m_iFilterLen - 1) *sizeof(float));

      }

 

      for(i =0;iiFrames;i++)

      {

        for(int j=0;jiFrameLen;j++)

         {

           m_pSrcBuffer[j * iBlockLen + m_iFilterLen - 1 + i] = pBufferIn[i * iFrameLen + j];

        }

      }

      for(i =0;iiFrameLen;i++)

      {//把本次的数据尾的数据暂存,以便下次使用

        memcpy(m_pDataSave + i * m_iFilterLen ,m_pSrcBuffer + i * iBlockLen + iBlockLen - m_iFilterLen,(m_iFilterLen - 1) * sizeof(float));

      }

 

   }

   else

   {//按通道排列

      for(i =0;iiFrameLen;i++)

      {

        memcpy(m_pSrcBuffer + i * iBlockLen,m_pDataSave + i * m_iFilterLen + 1,(m_iFilterLen - 1) *sizeof(float));//把上一次的数据尾的数据拷到源数据的每个段的缓冲头

        memcpy(m_pSrcBufferi * iBlockLen + m_iFilterLen - 1,pBufferIn + i * iFrames,iFrames *sizeof(float));//拷贝原始数据

        memcpy(m_pDataSave + i * m_iFilterLen,m_pSrcBuffer + i * iBlockLen + iBlockLen - m_iFilterLen,m_iFilterLen  * sizeof(float));//把本次的数据尾的数据暂存,以便下次使用

      }

 

   }

  

   const int iFilter_size = sizeof(float) * m_iFilterBufferLen;

   //创建CL缓冲

   cl_mem pSrcBuffer_CL = clCreateBuffer(m_clContextCL_MEM_READ_ONLY |CL_MEM_COPY_HOST_PTRiSrcLen * sizeof(float), m_pSrcBuffer, &iError);   //源数据

   cl_mem FilterBuffer_CL = clCreateBuffer(m_clContextCL_MEM_READ_ONLY |CL_MEM_COPY_HOST_PTRiFilter_sizem_pFilterBuffer, &iError);        //滤波系数

   cl_mem pBufferOut_CL = clCreateBuffer(m_clContextCL_MEM_WRITE_ONLYiSrcLen * sizeof(float),NULL, &iError);                        //结果

 

   const int iFilter = m_iFilterLen;

   iError =  clSetKernelArg(m_clKernel1, 0, sizeof(cl_mem), &pSrcBuffer_CL);

   iError |= clSetKernelArg(m_clKernel1, 1, sizeof(cl_mem), &FilterBuffer_CL);

   iError |= clSetKernelArg(m_clKernel1, 2, sizeof(cl_mem), &pBufferOut_CL);

   iError |= clSetKernelArg(m_clKernel1, 3, sizeof(size_t), &iDataNum);

   iError |= clSetKernelArg(m_clKernel1, 4, sizeof(size_t), &iFilter);

   iError |= clSetKernelArg(m_clKernel1, 5, sizeof(size_t), &iFrameLen);

   // 执行kernel

   const size_t global_ws = iDataNum// Total number of work-items

  iError = clEnqueueNDRangeKernel(m_clQueuem_clKernel1, 1, NULL, &global_wsNULL, 0, NULLNULL);

   //读取结果

   iError = clEnqueueReadBuffer(m_clQueuepBufferOut_CLCL_TRUE, 0, iDataNum * sizeof(float),pBuferOut, 0, NULLNULL);

 

   //结果是按通道存储的,因此,如果要按帧输出,需要转换

 

   //释放CL缓冲

   clReleaseMemObject(pSrcBuffer_CL);

   clReleaseMemObject(FilterBuffer_CL);

   clReleaseMemObject(pBufferOut_CL);

   return TRUE;

}

Kernel 函数 ,写在testgpu.cl文件中

__kernel void Filter_GPU_Multi(__global const floatpSrcBuffer_CL,__global const float*pFilterBuffer_CL,__global floatpBufferOut_CL,const int iNum,const int iFilterNum,const int iFrameLen)

{//多通道滤波

   const int idx = get_global_id(0);

   if (idx < iNum)

   {

      int iBlockLen = iNum / iFrameLen;

      int iFrames = idx / iBlockLen;

      float fSum =0.0f;

      for(int i = 0;iiFilterNum;i++)

      {

         fSum += pSrcBuffer_CL[iFrames * (iFilterNum -1 + iBlockLen ) + idx % iBlockLen + i] *pFilterBuffer_CL[iFrames * iFilterNum + i];

      }

      pBufferOut_CL[idx] = fSum;

   }

}

__kernel void Filter_GPU_Single(__global const floatpSrcBuffer_CL,__global const float*pFilterBuffer_CL,__global floatpBufferOut_CL,const int iNum,const int iFilterNum)

{//单通道滤波

   const int idx = get_global_id(0);

   if (idx < iNum)

   {

      float fSum =0.0f;

      for(int i = 0;iiFilterNum;i++)

      {

         fSum += pSrcBuffer_CL[idx + i] * pFilterBuffer_CL[i];

      }

      pBufferOut_CL[idx] = fSum;

   }

}

为了验证用GPU计算的结果是否正确,还需要写CPU计算的程序,以便验证其正确性。CPU计算此处就不贴代码了,完整代码请到http://download.csdn.net/detail/iddialog/4640938 下载。

 

以上程序在win7  CUDA SDK 4.2 和  VC++ 2008 + SP1 编译通过。能够正常运行。运行结果GPU和CPU运算结果是一致的。由于每次计算后,m_pDataSave的内容发生变化,输出缓冲前面一段数据可能会不一样。如果要测试GPU和CPU两种方式的结果是否一样,需要每次在滤波前把m_pDataSave的内容设成一样。

如果VS2008没有SP1,需要修改stdafx.h文件

删除下面这行

#include <afxcontrolbars.h> // 功能区和控件条的MFC 支持

添加

#ifdef CWinAppEx

#undef CWinAppEx

#endif

#define  CWinAppEx CWinApp

 

结尾:

由于第一次写OpenCL程序,错误在所难免。而且对于cl的滤波函数,也没有很好的算法,也没花时间去研究。只能算是实验OpenCL的一个测试程序。对于GPU加速的程序,需要好的算法。对于程序员来说,需要改变以前的思维习惯,以前都用单一的计算单元在做计算,即便用到多线程,也是基于任务的,也就是说A线程做一件事,B线程做另外一件事。对于运算,一般在循环中顺序执行。而GPU由于内核多,是并发执行的,因此需要考虑其并发性和乱序执行。如果数据量小的话,其数据IO所占的时间往往比执行所占的时间多,这时使用GPU还不如使用CPU快。因此,好的算法以及运算量大的程序,才能感觉到GPU加速的优势。要写好OpenCL程序,以后的路还很长。(什么时候我们的程序由CPU和GPU自动调节运行就好了,对用户和程序员均不透明,就像双核或者多核CPU一样,我们根本就不用关心程序或者说某个线程在哪个核上运行!呵呵)。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值