float数和double的大小比较

最新推荐文章于 2024-07-19 14:56:19 发布

维1

最新推荐文章于 2024-07-19 14:56:19 发布

阅读量6.2k

点赞数 3

分类专栏： JavaSE

本文链接：https://blog.csdn.net/qq_37859539/article/details/84207577

版权

JavaSE 专栏收录该内容

31 篇文章 1 订阅

订阅专栏

看到一个面试题想了很久为什么？

float f = 1.4f;double d = 1.4d; 与 float f = 1.5f;double d = 1.5d; 是否为true

float f = 1.4f;
double d = 1.4d;
float f1 = 1.5f;
double d1 = 1.5d;

while (true) {
    System.out.println(f);
    System.out.println((double)f);
    System.out.println(d);
    System.out.println(f - d);
    System.out.println(f == d);

    System.out.println("--------");
    System.out.println(f1);
    System.out.println((double) f1);
    System.out.println(d1);
    System.out.println(f1 - d1);
    System.out.println(f1 == d1);
}

	1.4
	1.399999976158142
	1.4
	-2.3841857821338408E-8
	false
	--------
	1.5
	1.5
	1.5
	0.0
	true

十进制小数如何转化为二进制数？

算法是乘以2直到没有了小数为止。举个例子，0.3表示成二进制数

0.3*2=0.6   取整数部分  0

0.6*2=1.2   取整数部分  1

0.2(1.2的小数部分)*2=0.4   取整数部分 0

0.4*2=0.8   取整数部分  0

0.8*2=1.6    取整数部分 1

0.6*2=1.2   取整数部分  1

.........     0.3二进制表示为(从上往下):0100110011......

注意：上面的计算过程循环了，也就是说2永远不可能消灭小数部分，这样算法将无限下去。很显然，小数的二进制表示有时是不可能精确的。而0.5能用二进制数精确表示0.52=1.0时能取整数部分。其实道理很简单，十进制系统中能不能准确表示出1/3呢？同样二进制系统也无法准确表示1/10。这也就解释了为什么浮点型减法出现了"减不尽"的精度丢失问题。
看到这懂了吧