编者按:今年OpenCV收到了很多来自中国的贡献,比如DNN的ARM后端Tengine、基于深度学习的文本检测识别、对RISC-V的支持等新功能。在即将发布的4.5.1版本,华为开源能力中心的工程师又为OpenCV贡献了一个重要功能 -- 色彩校正。
作者:张金衡、单晨琪、王龙步 (华为开源能力中心)
本文将介绍CV领域一个重要应用 -- 色彩校正。该模块收录在 opencv_contrib/modules/mcc 模块中,由 PR #2671 贡献。
色彩校正简介
一般来说,由于拍摄设备、光线环境等客观因素,或者拍摄者喜好等主观因素影响,人们拍摄到的图片与真实物体的色彩会有一定的偏差。同一个事物在不同的环境下得到的图片颜色是不同的,这样就对接下来进行的图片处理、比较造成了一定影响。色彩校正技术就是为解决这个问题而提出的。
色彩校正(color calibration),通俗来说,就是使图片还原事物本身的颜色,也就是尽可能接近拍摄时人眼看所看到的事物。如今,色彩校正已经不仅在摄影中使用,而是在影视制作、游戏、医疗、建筑等各行各业中广泛使用。
需要注意的是,色彩校正与调色是不同的概念。前者是在图片中使事物的色彩重现,必须遵循一定的标准,不具有随意性,需要一些技术手段实现;后者则是人们对图片色彩的主观喜好而为,不需要遵循任何标准,具有随意性,是艺术性的实现。
从技术上来说,色彩校正[1]的目的是调整输入输出设备的颜色响应到已知状态。被校准的设备有时被称为校准源 ; 用作标准的色彩空间有时也称为校准目标。由于输入输出设备的制造工艺等,其通道响应存在非线性失真,为了校正该设备输出的图片,必须将其捕捉到的色彩与实际色彩进行校正。
色彩校正通常分成2个步骤:
一是先将输入色彩空间线性化为与亮度成正比。这个过程是不适定问题[2],因此有许多不同的解决方案;
二是做线性变换,把色彩空间变成绝对RGB色彩空间。所用的线性变换的矩阵称为色彩变换矩阵(color correction matrix,CCM),也称为CCM矩阵。CCM矩阵需要通过非线性优化来求解。
通常使用的校准色彩叫做色卡(colorchecker),最著名的是麦克白色卡(Macbeth ColorChecker)。色卡提供色彩校正中的参考色,所有的颜色都已经被标定。最流行的标准色卡是 Macbeth色卡,如下图所示。它包括4*6个色块,其中,最后一行的色块是灰色色块,可以用于灰度线性化或是白平衡。
Macbeth色卡
色彩校正的详细理论可查阅以下链接:
https://github.com/riskiest/color_calibration/tree/v4/doc/pdf/English/Algorithm
在OpenCV中使用色彩校正
在对 OpenCV 进行 building 时,运行以下命令来 build 所有 opencv_contrib 模块
cmake -D OPENCV_EXTRA_MODULES_PATH=<opencv_contrib>/modules/
或者仅 build 色彩校正所在的 mcc 模块
cmake -D OPENCV_EXTRA_MODULES_PATH=<opencv_contrib>/modules/mcc
若使用 cmake-gui(CMake的GUI版本)进行构建,需要检查确认包含 mcc 模块。
opencv_contrib/modules/mcc 模块主要包含两个部分,
其一是 color checker detector 模型,具体说明可参考
https://github.com/opencv/opencv_contrib/blob/master/modules/mcc/tutorials/basic_chart_detection/basic_chart_detection.markdown;
其二为本文主要介绍的色彩校正模块。
色彩校正模块的核心类 -- ColorCorrectionModel:
声明:
opencv_contrib/modules/mcc/include/opencv2/mcc/ccm.hpp
定义:
opencv_contrib/modules/mcc/src/ccm.cpp
ColorCorrectionModel 的参数说明如下:
src :
检测到 ColorChecker 色块的颜色(颜色类型是RGB而不是BGR,颜色值在[0, 1]范围内);
constcolor :
内置色卡,包括Macbeth、Vinyl、DigitalSG
Mat colors :
参考颜色值(颜色值在[0, 1]范围内);
ref_cs :
对应颜色值的色彩空间。如果颜色类型是RGB类型,则颜色格式是RGB而不是BGR;
支持的色彩空间有:RGB色彩空间(如COLOR_SPACE_sRGB)、线性RGB色彩空间(如COLOR_SPACE_sRGBL)、非RGB色彩空间(如COLOR_SPACE_Lab_D50_2)等。
在本文中,以 samples/color_correction_model.cpp 的示例作为参考,提取关键步骤代码形成如下程序:
#include <opencv2/imgcodecs.hpp>
#include <opencv2/mcc.hpp>
#include <iostream>
using namespace std;
using namespace cv;
using namespace mcc;
using namespace ccm;
int main(int argc, char *argv[])
{
// [get_messages_of_image]:获取图像消息
string filepath = "input.png"; // 输入图片路径
Mat image = imread(filepath, IMREAD_COLOR);
Mat imageCopy = image.clone();
Ptr<CCheckerDetector> detector = CCheckerDetector::create();
// [get_color_checker]:准备ColorChecker检测
vector<Ptr<mcc::CChecker>> checkers = detector->getListColorChecker();
for (Ptr<mcc::CChecker> checker : checkers)
{
// [create]:创建CCheckerDetector对象,并使用getListColorChecker函数获取ColorChecker信息。
Ptr<CCheckerDraw> cdraw = CCheckerDraw::create(checker);
cdraw->draw(image);
Mat chartsRGB = checker->getChartsRGB();
Mat src = chartsRGB.col(1).clone().reshape(3, chartsRGB.rows/3);
src /= 255.0;
// [get_ccm_Matrix]:对于每个ColorChecker,都可以计算一个ccm矩阵以进行颜色校正。Model1是ColorCorrectionModel类的对象,可以根据需要来修改参数以获得最佳色彩校正效果。
ColorCorrectionModel model1(src, COLORCHECKER_Vinyl);
model1.run();
Mat ccm = model1.getCCM();
std::cout<<"ccm "<<ccm<<std::endl;
double loss = model1.getLoss();
std::cout<<"loss "<<loss<<std::endl;
// [make_color_correction]:成员函数infer_image用于使用ccm矩阵进行校正校正。
Mat img_;
cvtColor(image, img_, COLOR_BGR2RGB);
img_.convertTo(img_, CV_64F);
const int inp_size = 255;
const int out_size = 255;
img_ = img_ / inp_size;
Mat calibratedImage= model1.infer(img_);
Mat out_ = calibratedImage * out_size;
// [Save_calibrated_image]:保存已校准的图像。
out_.convertTo(out_, CV_8UC3);
Mat img_out = min(max(out_, 0), out_size);
Mat out_img;
cvtColor(img_out, out_img, COLOR_RGB2BGR);
imwrite("output.png",out_img);
}
return 0;
}
运行上述代码所在文件,即可完成对于 input.png 图片的色彩校正,校正后的图片为 output.png。
下面展示一组通过本文介绍的色彩校正模块校正前后示例图。通过示例可以看出,原图拍摄色彩较暗,色卡颜色未显示其本身颜色,地板颜色偏暗,毛巾颜色偏蓝;校正后的图片则很好地还原了色卡和物体本身的颜色。
参考文献
https://en.wikipedia.org/wiki/Color_correction
Bianco, S., Bruna, A.R., Naccari, F., Schettini, R.: Color correction pipeline optimization for digital cameras. J. Electron. Imaging 22(2), 023014:1–023014:10 (2013)
备注:OpenCV
OpenCV交流群
关注最新最前沿的OpenCV学习技术,
若已为CV君其他账号好友请直接私信。
我爱计算机视觉
微信号:aicvml
QQ群:805388940
微博知乎:@我爱计算机视觉
投稿:amos@52cv.net
网站:www.52cv.net
在看,让更多人看到