OpenCV3.x-OpenCL的糟糕体验

最新推荐文章于 2024-10-13 19:46:32 发布
最新推荐文章于 2024-10-13 19:46:32 发布
阅读量9k 收藏 19
点赞数 3
分类专栏： 图像处理|OpenCV|Halcon 异构并行|CUDA|OpenCL|OpenMP 文章标签： OpenCV OpenCL GPU
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/kaychangeek/article/details/78857535
版权

今天看到了一份ppt《OpenCV3_CVPR_2015_Speed》，看到了下面的一组数据，于是想研究研究OpenCV的OpenCL这个家伙。


可以看到利用OpenCL，算法的运行速度加速明显！

于是下载了opencv3.2源码并在Windows10（64bit）VS2013上进行编译，CMAKE配置如下：


测试环境：Windows10（64）+AMD GPU+OpenCV3.2

看两张上面的PPT大概知道opencv-opencl是怎么用的。



OKAY，环境配置好后那是相当的鸡冻，按照上面的示例代码写个原始版本和CL版本的小程序就能测试speed up的效果了！

demo1（执行1次灰度化、高斯模糊、canny算法）如下：

#include <opencv2/opencv.hpp>
#include <opencv2/highgui/highgui.hpp>  
#include <opencv2/imgproc/imgproc.hpp>  
#include <opencv2/core/core.hpp> 
#include <opencv2/features2d/features2d.hpp>
#include <opencv2/flann/flann.hpp>
#include <opencv2/core/ocl.hpp> 
#include <iostream>
#include <string>

using namespace cv;
using namespace cv::ocl;
using namespace std;

int main(int argc, char **argv){

	// Test Normal OpenCV
	cv::Mat f = cv::imread("C:\\Users\\KayChan\\Desktop\\kj_color_detect\\4.bmp", 1);
	cv::Mat gray;
	double t = 0.0;
	t = (double)cv::getTickCount();
	
	for (int i = 0; i < 1; i++){

		cv::cvtColor(f, gray, cv::COLOR_BGR2GRAY);
		cv::GaussianBlur(gray, gray, cv::Size(7, 7), 1.5);
		cv::Canny(gray, gray, 0, i);
	}
	t = ((double)cv::getTickCount() - t) / cv::getTickFrequency();
	std::cout << "cpu time:" << t << std::endl;
	
	// Test OpenCL
	cv::UMat uf = cv::imread("C:\\Users\\KayChan\\Desktop\\kj_color_detect\\4.bmp", 1).getUMat(cv::ACCESS_READ);
	cv::UMat ugray;
	t = 0.0;
	t = (double)cv::getTickCount();
	for (int i = 0; i < 1; i++){

		cv::cvtColor(uf, ugray, cv::COLOR_BGR2GRAY);
		cv::GaussianBlur(ugray, ugray, cv::Size(7, 7), 1.5);
		cv::Canny(ugray, ugray, 0, i);
	}
	t = ((double)cv::getTickCount() - t) / cv::getTickFrequency();
	std::cout << "gpu time:" << t << std::endl;

	return 0;
}
运行结果：

将上面代码的循环改成100次，运行结果：


将上面代码的循环改成500次，运行结果：


问题来了，好像不对劲啊，CL运行1次的时间是0.724482，100次的时间是0.779403，而500次的时间确实6.68255···，什么情况！不应该啊···感觉这跨度有点大啊！

demo2（测试opencv的灰度模板匹配）如下：

#include <opencv2/opencv.hpp>
#include <opencv2/highgui/highgui.hpp>  
#include <opencv2/imgproc/imgproc.hpp>  
#include <opencv2/core/core.hpp> 
#include <opencv2/features2d/features2d.hpp>
#include <opencv2/flann/flann.hpp>
#include <opencv2/core/ocl.hpp> 
#include <iostream>
#include <string>

using namespace cv;
using namespace cv::ocl;
using namespace std;

void runMatchGrayUseCpu(int method);
void runMatchGrayUseGpu(int method);

int main(int argc, char **argv){
	
	int method = CV_TM_SQDIFF_NORMED;

	runMatchGrayUseCpu(method);
	runMatchGrayUseGpu(method);
	
	return 0;
}

void runMatchGrayUseCpu(int method){

	double t = 0.0;

	t = (double)cv::getTickCount();
	// 1.get src image
	cv::Mat src = cv::imread("C:\\Users\\KayChan\\Desktop\\kj_color_detect\\11.bmp", 1);

	// 2.get template image
	cv::Mat tmp = cv::imread("C:\\Users\\KayChan\\Desktop\\testimage\\tmp.png", 1);

	// 3.gray image
	cv::Mat gray_src, gray_tmp;
	if (src.channels() == 1) gray_src = src;
	else cv::cvtColor(src, gray_src, CV_RGB2GRAY);
	if (tmp.channels() == 1) gray_tmp = tmp;
	else cv::cvtColor(tmp, gray_tmp, CV_RGB2GRAY);

	// 4.match
	int result_cols = gray_src.cols - gray_tmp.cols + 1;
	int result_rows = gray_src.rows - gray_tmp.rows + 1;
	cv::Mat result = cv::Mat(result_cols, result_rows, CV_32FC1);
	cv::matchTemplate(gray_src, gray_tmp, result, method);

	cv::Point point;
	double minVal, maxVal;
	cv::Point minLoc, maxLoc;
	cv::minMaxLoc(result, &minVal, &maxVal, &minLoc, &maxLoc, cv::Mat());
	switch (method){

	case CV_TM_SQDIFF:
		point = minLoc;
		break;
	case CV_TM_SQDIFF_NORMED:
		point = minLoc;
		break;
	case CV_TM_CCORR:
	case CV_TM_CCOEFF:
		point = maxLoc;
		break;
	case CV_TM_CCORR_NORMED:
	case CV_TM_CCOEFF_NORMED:
	default:
		point = maxLoc;
		break;
	}
	t = ((double)cv::getTickCount() - t) / cv::getTickFrequency();

	std::cout << "======Test Match Template Use CPU======" << std::endl;
	std::cout << "CPU time :" << t << " second" << std::endl;
	std::cout << "obj.x :" << point.x << " obj.y :" << point.y << std::endl;
	std::cout << " " << std::endl;
}

void runMatchGrayUseGpu(int method){

	double t = 0.0;

	t = (double)cv::getTickCount();
	// 1.get src image
	cv::UMat src = cv::imread("C:\\Users\\KayChan\\Desktop\\kj_color_detect\\11.bmp", 1).getUMat(cv::ACCESS_RW);

	// 2.get template image
	cv::UMat tmp = cv::imread("C:\\Users\\KayChan\\Desktop\\testimage\\tmp.png", 1).getUMat(cv::ACCESS_RW);

	// 3.gray image
	cv::UMat gray_src, gray_tmp;
	if (src.channels() == 1) gray_src = src;
	else cv::cvtColor(src, gray_src, CV_RGB2GRAY);
	if (tmp.channels() == 1) gray_tmp = tmp;
	else cv::cvtColor(tmp, gray_tmp, CV_RGB2GRAY);

	// 4.match
	int result_cols = gray_src.cols - gray_tmp.cols + 1;
	int result_rows = gray_src.rows - gray_tmp.rows + 1;
	cv::UMat result = cv::UMat(result_cols, result_rows, CV_32FC1);
	cv::matchTemplate(gray_src, gray_tmp, result, method);

	cv::Point point;
	double minVal, maxVal;
	cv::Point minLoc, maxLoc;
	cv::minMaxLoc(result, &minVal, &maxVal, &minLoc, &maxLoc, cv::Mat());
	switch (method){

	case CV_TM_SQDIFF:
		point = minLoc;
		break;
	case CV_TM_SQDIFF_NORMED:
		point = minLoc;
		break;
	case CV_TM_CCORR:
	case CV_TM_CCOEFF:
		point = maxLoc;
		break;
	case CV_TM_CCORR_NORMED:
	case CV_TM_CCOEFF_NORMED:
	default:
		point = maxLoc;
		break;
	}
	t = ((double)cv::getTickCount() - t) / cv::getTickFrequency();


	std::cout << "======Test Match Template Use OpenCL======" << std::endl;
	std::cout << "OpenCL time :" << t << " second" << std::endl;
	std::cout << "obj.x :" << point.x << " obj.y :" << point.y << std::endl;
	std::cout << " " << std::endl;
}
运行结果如下：

我只想说，我了个FUCK，居然比CPU的更慢···。而且慢的不是一个数量级的！

然后我以为是没开启OCL，UMat看文档应该是不需要想2.x那样开启的吧。索性也开启一下像2.X那样，加了一段代码代码如下：

#include <opencv2/opencv.hpp>
#include <opencv2/highgui/highgui.hpp>  
#include <opencv2/imgproc/imgproc.hpp>  
#include <opencv2/core/core.hpp> 
#include <opencv2/features2d/features2d.hpp>
#include <opencv2/flann/flann.hpp>
#include <opencv2/core/ocl.hpp> 
#include <iostream>
#include <string>

using namespace cv;
using namespace cv::ocl;
using namespace std;

void runMatchGrayUseCpu(int method);
void runMatchGrayUseGpu(int method);

int main(int argc, char **argv){

	// 新增加的
	//launch OpenCL environment...  
	std::vector<cv::ocl::PlatformInfo> plats;
	cv::ocl::getPlatfomsInfo(plats);
	const cv::ocl::PlatformInfo *platform = &plats[0];
	cout<<"Platform name: "<<platform->name().c_str()<<endl;  
	cv::ocl::Device current_device;
	platform->getDevice(current_device, 0);
	cout<<"Device name: "<<current_device.name().c_str()<<endl;  
	current_device.set(0);
	ocl::setUseOpenCL(true);
	
	int method = CV_TM_SQDIFF_NORMED;

	runMatchGrayUseCpu(method);
	runMatchGrayUseGpu(method);
	
	return 0;
}

void runMatchGrayUseCpu(int method){

	double t = 0.0;

	t = (double)cv::getTickCount();
	// 1.get src image
	cv::Mat src = cv::imread("C:\\Users\\KayChan\\Desktop\\kj_color_detect\\11.bmp", 1);

	// 2.get template image
	cv::Mat tmp = cv::imread("C:\\Users\\KayChan\\Desktop\\testimage\\tmp.png", 1);

	// 3.gray image
	cv::Mat gray_src, gray_tmp;
	if (src.channels() == 1) gray_src = src;
	else cv::cvtColor(src, gray_src, CV_RGB2GRAY);
	if (tmp.channels() == 1) gray_tmp = tmp;
	else cv::cvtColor(tmp, gray_tmp, CV_RGB2GRAY);

	// 4.match
	int result_cols = gray_src.cols - gray_tmp.cols + 1;
	int result_rows = gray_src.rows - gray_tmp.rows + 1;
	cv::Mat result = cv::Mat(result_cols, result_rows, CV_32FC1);
	cv::matchTemplate(gray_src, gray_tmp, result, method);

	cv::Point point;
	double minVal, maxVal;
	cv::Point minLoc, maxLoc;
	cv::minMaxLoc(result, &minVal, &maxVal, &minLoc, &maxLoc, cv::Mat());
	switch (method){

	case CV_TM_SQDIFF:
		point = minLoc;
		break;
	case CV_TM_SQDIFF_NORMED:
		point = minLoc;
		break;
	case CV_TM_CCORR:
	case CV_TM_CCOEFF:
		point = maxLoc;
		break;
	case CV_TM_CCORR_NORMED:
	case CV_TM_CCOEFF_NORMED:
	default:
		point = maxLoc;
		break;
	}
	t = ((double)cv::getTickCount() - t) / cv::getTickFrequency();

	std::cout << "======Test Match Template Use CPU======" << std::endl;
	std::cout << "CPU time :" << t << " second" << std::endl;
	std::cout << "obj.x :" << point.x << " obj.y :" << point.y << std::endl;
	std::cout << " " << std::endl;
}

void runMatchGrayUseGpu(int method){

	double t = 0.0;

	t = (double)cv::getTickCount();
	// 1.get src image
	cv::UMat src = cv::imread("C:\\Users\\KayChan\\Desktop\\kj_color_detect\\11.bmp", 1).getUMat(cv::ACCESS_RW);

	// 2.get template image
	cv::UMat tmp = cv::imread("C:\\Users\\KayChan\\Desktop\\testimage\\tmp.png", 1).getUMat(cv::ACCESS_RW);

	// 3.gray image
	cv::UMat gray_src, gray_tmp;
	if (src.channels() == 1) gray_src = src;
	else cv::cvtColor(src, gray_src, CV_RGB2GRAY);
	if (tmp.channels() == 1) gray_tmp = tmp;
	else cv::cvtColor(tmp, gray_tmp, CV_RGB2GRAY);

	// 4.match
	int result_cols = gray_src.cols - gray_tmp.cols + 1;
	int result_rows = gray_src.rows - gray_tmp.rows + 1;
	cv::UMat result = cv::UMat(result_cols, result_rows, CV_32FC1);
	cv::matchTemplate(gray_src, gray_tmp, result, method);

	cv::Point point;
	double minVal, maxVal;
	cv::Point minLoc, maxLoc;
	cv::minMaxLoc(result, &minVal, &maxVal, &minLoc, &maxLoc, cv::Mat());
	switch (method){

	case CV_TM_SQDIFF:
		point = minLoc;
		break;
	case CV_TM_SQDIFF_NORMED:
		point = minLoc;
		break;
	case CV_TM_CCORR:
	case CV_TM_CCOEFF:
		point = maxLoc;
		break;
	case CV_TM_CCORR_NORMED:
	case CV_TM_CCOEFF_NORMED:
	default:
		point = maxLoc;
		break;
	}
	t = ((double)cv::getTickCount() - t) / cv::getTickFrequency();


	std::cout << "======Test Match Template Use OpenCL======" << std::endl;
	std::cout << "OpenCL time :" << t << " second" << std::endl;
	std::cout << "obj.x :" << point.x << " obj.y :" << point.y << std::endl;
	std::cout << " " << std::endl;
}
运行结果如下：

MMP，看到没有，居然给Mat加速了近10倍（从1秒多编程0.1秒）···，没有给UMat加速。

蛋疼啊···，网上查了查，看到一位女侠和我遇到一样的问题：


不知各位大佬有什么想法，既然官方声称UMat支持了opencl，不应该这么差劲啊···，想想也应该是自己哪里做的不对。

不过晚上找到了一些原因，不知道是不是这些因素导致的，正在思考···，找出猫腻后再来分享。




KayChanGeek
关注
专栏目录
C++版本的OpenCV 5.x编译生成opencv-python==5.x(GPU版本)接口并进行调用
源代码杀手的博客
09-01 2542
要么复制要么软连接，如果还是不行就使用这条命令全局搜索find / -name cv2*.so，其中cv2.cpython-36m-x86_64-linux-gnu.soo才是你生成的，用这个就行。由于只是简单的操作一张图片，所以从运行速度上没有多大变化，当经过一些复杂像素计算就能体现GPU的优点了。
OpenCL clCreateBuffer占用太多时间
天律界中子之不写博客不读书
06-07 2443
最近在做一个图像处理的算法，跑在高通平台上，需要使用OpenCL加速。代码分为三个部分： 1. 初始化 2. 处理图像 3. 释放资源 为了尽可能地减少算法的运行时间，我将一切可以预处理的内容都放到了初始化中，其中就包括了创建buffer。在初始化中，我调用clCreateBuffer()创建了9个buffer，共计约占用600MB内存。然后在处理图像中重复使用这些buffer，最后在释放...
使用OpenCV的OpenCL(ocl)模块
chenkent888的专栏
10-07 1915
Preface 参加OpenCV的OpenCL模块（以下称OCL）移植工作已经有2个月了。这里我说移植而不是开发，是因为大部分OCL模块的函数是从已经很成熟的GPU模块直接移植过来的。因此，目前阶段OCL模块所支持的函数接口是GPU模块的一个子集，但由于运行平台差别问题，在某些函数上有些细微不同。 OpenCV的版本控制系统已经转移到了git上面（见https://github.c
OpenCV3.x-OpenCL特性
12-20
说明了OpenCV3.x-OpenCL特性，OpenCL的UMat使用，和2.x版本CL的使用区别。
深入浅出之基于OpenCV的DNN推理部署
最新发布
浩瀚之水的专栏
10-13 1169
加载和运行深度学习模型支持从各种深度学习框架（如Caffe、TensorFlow、ONNX、Torch、Darknet等）导入预训练的深度学习模型，并在OpenCV中执行推理。图像预处理和后处理提供了多种图像预处理功能，如图像缩放、归一化、颜色转换等，以及后处理功能，如非极大值抑制（NMS）等。硬件加速支持使用CPU、GPU（通过OpenCL和CUDA）、Intel的Inference Engine等进行硬件加速，以提高推理速度。易于集成。
OpenCV3.1-OpenCL的使用
10-18 6205
参考：  http://opencv.org/platforms/opencl.html 一、OpenCV-2.x 和 OpenCV-3.x使用区别 OpenCL-aware code OpenCV-2.x // initialization VideoCapture vcap(...); ocl::OclCascadeClassifier fd("haar_ff.xml
OpenCV中OpenCL模块函数
网络资源是无限的
07-29 7649
It currently develop and test on GPU devices only. This includes both discrete GPUs(NVidia,AMD), as well as integrated chips(AMD APU and intel HD devices). The ocl module can be found under the “modu
OpenCV-OpenCL只是一个美丽传说？
wd1603926823的专栏
11-23 4330
之前不是没有测试过OpenCV-OpenCL，为此当时还去看过OpenCV3.x的源码，看到了那些写好的kernel；看到OpenCV的API都会有一个选择，只要dstimg是UMat型就会启动OpenCL版本的API，如果是Mat，则启动普通的CPU版本的OpenCV-API。但之前的测试效果就不理想，OpenCL版本的API比纯OpenCV的慢很多，我一直以为是有的函数不适合改成并行，现在想来
OpenCV对OpenCL的支持
认真你就输了
03-15 5275
最近调查OpenCV能否使用SoC内置的GPU进行图像处理加速，所采用的SoC是NXP的i.MX6Q，GPU型号是Vivante GC2000。从SoC的年代来说，这款GPU的配置还是不错的，其中： 1个GPGPU Core 4个Shader Core 32GFLOPS不过，GPU支持的OpenCL标准只到了OpenCL 1.1 EP。 在OpenCV中，打开了OpenCL支持之后，运行出错，代码
OpenCV3&4.x-OpenCL.rar
05-27
PPt中重要介绍了如何使用opencv3中的Umat来实现完成opencv-opencl的调用，具体相关内容参见我的博客：https://www.cnblogs.com/uestc-mm/p/12963792.html
OpenCV4.X - DNN模块 Python APIs
长风破浪会有时，直挂云帆济沧海
03-29 3909
原文: OpenCV4.X - DNN模块 Python APIs - AIUAI OpenCV 4.X 版本集成了很多直接利用 DNN 模块的 Python API 接口. 安装： sudo pip install opencv-python 使用： from cv2 import dnn # Variables with simple values DNN_BACKEND_DEFAULT ...
OpenCV3.1 使用GPU及OpenCL加速的教程
06-18
3. **OpenCL内核编译**：OpenCV会自动为每个设备编译OpenCL内核，但有时可能需要自定义内核或优化参数。 4. **错误处理**：使用OpenCL时，错误处理至关重要。要确保检查每个OpenCL函数的返回值，并适当地处理错误。 ...
[OpenCL] 利用opencl-buffer，读取一张JPG图像，并转为灰度图。
AndreLe的博客
07-03 235
本文利用opencv读取一张jpg图像，将数据传入opencl-buffer中，使用kernel快速灰度化图像，并且保存输出图像到本地。最后，实际灰度图像的kernel函数。
[OpenCL-C++绑定] 读取多张raw图像(NV12格式)，转为jpg图像（rgb格式）,并进行耗时统计。
AndreLe的博客
07-08 282
本文使用opencl的C++绑定，实现了batchsize>1,多路图像输入下，利用GPU-opencl处理图像（NV12转rgb），并输出多张图像为本地jpg文件。
[OpenCL-C++绑定] 读取一张raw图像(NV12格式)，将其进行JPEG压缩,并进行耗时统计。
AndreLe的博客
07-09 359
本文采用opencl对NV12格式的数据进行指定quality(例如：60)的压缩，输出一张jpg图像保存在本地。由于笔者需要对NV12格式的数据进行JPEG，所以修改了部分接口和kernel。
OpenCL开发记录一（基于Intel Cyclone V FPGA加速卡）
huangzhicong3的博客
05-26 1540
这篇文章主要分享我个人对OpenCL的学习和使用过程。
OpenCL 主机提醒事件、命令同步事件
INFINALGEORGE的博客
04-29 740
1.在OpenCL中，事件是一个和事件发生（occurrence）相对应的数据结构。一次事件监视的可能是数据传输操作的结束，也可能监视的是内核的执行。可以通过三种主要的方式来使用事件： （1.主机提醒（host notification）--用来提醒主机，设备已经执行完一条命令的事件； （2.命令同步--用来强迫延迟执行，直到另一个事件发生的事件； （3.性能分析--用来监视执行一条命令所耗时长的...
爱上OpenCL的十个理由
04-08 2034
作为OpenCL CodeBench的开发者，Amdahl软件公司始终坚信OpenCL能够带来巨大的利益，也从未怀疑过OpenCL标准的成功性。现在人们对计算性能的要求越来越高，在不超过发热量和功耗的限制范围，我们相信多核和多核系统提供了一个可行的解决方法。对于OpenCL用户来说，OpenCL标准的优点和利益是很明显的。我们认为在未来的几十年甚至超过几十年里，OpenCL将会引领计算机软件行业。
掌握OpenCV 3.x：C++计算机视觉实战指南
"《2017版Learning OpenCV3》是一本由Adrian Kaehler和Gary Bradski合著的专业指南，专为读者提供C++开源计算机视觉库（OpenCV）3.x版本的实用教程。本书旨在帮助读者全面理解和掌握OpenCV，并在计算机视觉领域高效...
评论 8
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值