相信学过C语言的人对printf这个函数再熟悉不过了,但是有些问题估计很多人不一定说得清楚。最近看《数值分析》,使得我对数值精度问题有了新的认识,还是那句话数学才是最直截了当的武器,没有数学依据只能停留在表面,难以知其所以然!
让我们看看下面几个案例:
float f = 0.3;
printf("%f",f);
没错这里可以输出:0.300000
这是C语言的默认输出6位,%f的输出让你觉得完全没问题,等等,似乎不太对,不是说计算机不能精确表示浮点数吗?这里怎么能精确表示呢?稍等,请看下面的代码段。
float f = 0.3;
printf("%.8f",f);
这里输出的是:0.30000001
终于露出了马脚,果然还是不精确啊,可是为什么是这个结果呢? 接着往下看
double f = 0.3;
printf("%.8lf",f);
这里输出的是:0.30000000
好奇怪,这里把float换成了double为什么又是正确的呢?输出更多的位看看呢?
double f = 0.3;
printf("%.18lf",f);
这里输出的是:0.299999999999999990
这下又回到了不精确的值了,这是为什么呢?
下面就来讲讲这个问题:
我们不妨先把0.3转换成二进制看看是什么样子的,推荐一个可以实现多种进制转换的网站:http://www.sojson.com/hexconvert.html
0.3的二进制结果为:0.0100110011001100110011001100110011001100110011001101
当然远不止这么多位,准确的讲应该是一个无限小数。根据 IEEE754标准 ,对于单精度浮点数来讲,尾数是23位,因此截取23位二进制,当然是从左到右第一个不为0的数字开始,
因此0.3的float 的尾数为:0.010011001100110011001101
注意看这里的最后一位是1,而不是0, 而原始二进制串中是0, 这里就采用了四舍五入的原则,回忆一下,在10进制中比如0.57四舍五入保留一位小数的结果是0.6,那就是因为第2位小数是7,超过了5所以进1位, 在二进制中就看下一位是1还是0,如果是1就进位。原始二进制串中的第24位为1,因此进位到23位,因此23位变为1.
那么我们接下来吧 0.3的float 的尾数即0.010011001100110011001101 转换为10进制看看。
结果是:0.300000011920928955078125
这就是为什么
printf("%f",f); //可以得到 0.300000
printf("%.8f",f); //可以得到 0.30000001
可以再多输出一些位数:
printf("%.15f",f); //可以得到 0.300000011920929
其实可以看到,这里输出也有四舍五入将 0.300000011920928955078125 保留15位小数得到 0.300000011920929
至于第4个双精度输出为什么结果是小于0.3,那是因为它的尾数有52位,因此在截取二进制位的时候,因为53位是0,所以52位数字保持不变,实际上比原来的数要小一些,因为53位之后的数位依然有很多1存在。
那么还有一个疑问,为什么
double f = 0.3;
printf("%.8lf",f);
输出的是:0.30000000
而不是:0.29999999
这里是因为C语言在输出处理的时候,再次使用了四舍五入。这也是为什么我们用%f输出0.3能看到0.30000的原因。