浮点数精度补偿

最新推荐文章于 2023-02-17 16:11:10 发布

caigaojian

最新推荐文章于 2023-02-17 16:11:10 发布

阅读量923

点赞数

文章标签：浮点数精度补偿

本文链接：https://blog.csdn.net/caigaojian/article/details/84760233

版权

场景描述：

1、整数除以一个数，取浮点值

2、浮点数值传递

以上都可能存在浮点数精度不够，四舍五入后，值存在误差的问题

解决：

#define POSITIVE_ZERO_VALUE               0.000001
#define NEGATIVE_ZERO_VALUE               (-0.000001)
#define COMPENSATION_VALUE               0.000005
#define ACCURACY_COMPENSATION(value)   ((double)value + COMPENSATION_VALUE * ((double)value >= POSITIVE_ZERO_VALUE ? 1 : \
                                           ((double)value <= NEGATIVE_ZERO_VALUE ? (-1) : 0.0)))

注意：

1、在Qt中，如果不判断0值，可能转换后，可能存在-0的情况

2、浮点值与0使用范围进行比较

3、解决方法中需注意宏的小数位数，根据不同场景做调整

4、float第6位小数准确，第7位不准；double第15位准确，第16位不准