C/C++中float精度问题
float f = 0.00000001f;
if (f == 0.00000001f)
{
std::cout << "不可将浮点变量用“==”或“!=”与数字比较" << endl;
}
else
{
std::cout << "应该设法转化成“>=”或“<=”此类形式" << endl;
}
float d1, d2, d3, d4, d5;
d1 = 194268.04855f;
d2 = 194268.0321f;
d5 = 194268.0321f;
d4 = 0.02f;
printf("%f - %f\n", d1, d2);
d3 = d1 - d2;
std::cout << d1 << endl;
std::cout << d2 << endl;
std::cout << d3 << endl;
if (d5 ==d2)
{
std::cout << "d5==d2" << endl;
}
if (d3 > d4)
printf(">0.02\n");
else if (d3 < d4)
printf("<0.02\n");
else
printf("=0.02\n");
printf("%f - %f = %f \n", d1, d2, d3);
结果:
python中float精度问题
d1 = 194268.04855
d2 = 194268.0321
d4 = 0.1645
d3 = d1 - d2
if d3 == d4:
print("d3:{}==d4:{}".format(d3, d4))
else:
print("d3:{} != d4:{}".format(d3, d4))
print("%f - %f = %f %f\n", d1, d2, d3, d4);
结果:
d3:0.01644999999552965 != d4:0.1645
%f - %f = %f %f 194268.04855 194268.0321 0.01644999999552965 0.1645
可以使用扩大倍数换成int 然后在进行缩小整数来进行换算