【引言】: 将一个float32精度的矩阵砍到uchar精度,每个库都会根据自己算法目标类型做一些加速的优化从而导致结果不一样,比如在OpenCV3.4 cpu版本的convertto中, 1.5f的浮点数会变成2, 2.5f也会变成2。 跟传统的四舍五入计算不一样
uchar val_char = (uchar)(val_float + 0.5);//传统的四舍五入 输入值为正数
【问题测试】: 这种问题一般是因为在算法优化中,cpu计算会涉及到2进制移位和补位的优化而导致误差,最快的方法可以不需要看opencv源码,直接将一堆float convertto之后打印出来找规律,下图是converto前和converto后的数据 贴上测试代码
cv::Mat a = cv::Mat(10, 10, CV_32FC1);
for (int i = 0; i < 100; i++)
{
a.at<float>(i / 10, i % 10) = i + 0.5;
}
std::cout << a << std::endl;
a.convertTo(a, CV_8UC1);
std::cout << a << std::endl;