2021-10-16 浮点型数据存储方式
转载自:解决float型数据精度损失问题 - pry_up - 博客园 (cnblogs.com)
问题:浮点型数据存储方式会导致数据精度损失,增大计算误差。
float fval = 0.45; // 单步调试发现其真实值为:0.449999988
double dval = 0.45; // 单步调试发现其真实值为:0.45000000000000001
当很多个这样的单精度浮点型数据进行运算时,就会有累积误差,使得运算结果达不到理想的结果。尤其是对那种需要判断相等的情况(浮点型数据判断相等会