求解0.5f == 0.5为true,0.3f == 0.3为false
求解0.5f == 0.5为true,0.3f == 0.3为false,0.25f == 0.25又为true,为何 精度问题。 计算机处理浮点数的时候不是你看到的0.3或者0.5而是一组浮点数存在于内存中。就拿你举得3个数为例0.3在计算机中浮点表示为(00111110100110011001100110011010) 因为精度原因后面被截断所以实际换算回十进制的时候约为0.2...
原创
2013-10-26 13:14:01 ·
1601 阅读 ·
0 评论