int 转 double 的一个坑
首先,看这样这个语句
int max = (int) Math.pow(2, 31);
输出的应该是 2 32 2^{32} 232 的值,我们看运行结果
我们再看看科学计算器算出来的
这个时候问题就出来了,我们对比发现,结果相差1。
这里就是一个小坑,因为int在内存中的数值范围:2147483647 ~ -2147483648
而 2 32 2^{32} 232刚好比它的最大值大1。所以造成了这个情况。
这是使用中需要注意的一点! 如果强转的值大于目标类型的最大值,则会发生精度缺失。
你把一桶水倒进一个杯子中,多余的水都流出来了,杯子中只能盛与其容量相等的水,反过来,把杯子水倒进桶中,它能盛下,而且还没满。