关于浮点数计算不准的问题

 1 #include <stdio.h>
 2 int main()
 3 {
 4     float x = 1.3;
 5     x = x - (int)x;
 6     int j = (int)(x*10);
 7     int i = (int)(x*10+0.00005);
 8     printf("j=%d \n",j);//j=2
 9     printf("i=%d \n",i);//i=2
10     return 0;
11 }

View Code

上面的代码一个J=2，一个,i=3，这说明了使用浮点数不注意很容易出错，浮点数存在精度问题，因为浮点数不能准确的存储只能用最接近的，所以要么给其加一个精度(#define EPS (0.000001))，要么用double.

如float(4字节)，double(8字节)，（精度越来越高，占字节数越多）精度即使再高，也是有限的，在计算机中，越是精度高，需要占的内存越大，而在解决实际问题中成本也就越大，因此不得不结合考虑精度与成本的问题.

 

转载于:https://www.cnblogs.com/jieruishu/p/10879405.html