贤者之路,cuda版本convertto实现(与OPENCV 3.4 CPU版本数值一致)

【引言】: 将一个float32精度的矩阵砍到uchar精度,每个库都会根据自己算法目标类型做一些加速的优化从而导致结果不一样,比如在OpenCV3.4 cpu版本的convertto中, 1.5f的浮点数会变成2, 2.5f也会变成2。 跟传统的四舍五入计算不一样

uchar val_char = (uchar)(val_float + 0.5);//传统的四舍五入 输入值为正数

【问题测试】: 这种问题一般是因为在算法优化中,cpu计算会涉及到2进制移位和补位的优化而导致误差,最快的方法可以不需要看opencv源码,直接将一堆float convertto之后打印出来找规律,下图是converto前和converto后的数据 贴上测试代码

 

cv::Mat a = cv::Mat(10, 10, CV_32FC1);
for (int i = 0; i < 100; i++)
{
	a.at<float>(i / 10, i % 10) = i + 0.5;
}
std::cout << a << std::endl;


a.convertTo(a, CV_8UC1);

std::cout << a << std::endl;

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 2
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值