javaEE
Amuletoday
这个作者很懒,什么都没留下…
展开
-
double类型的2.0-1.1为什么等于0.89999 但是2.0-0.1却可以=1.9
double类型的2.0-1.1为什么等于0.89999 double类型占了64位。 第一位为符号位,0为正,1为负。 最后52位为十进制转换为二进制后的值。 中间11位为阶码,可表示-1024~1023,表示最后52位为2的多少次方。比如最后52位为二进制的1.0*2^1(即二进制10),那么十一位阶码的十进制值为1,为了方便表示,加上1023变成非负数。 float类型占32位(1位符号位,...转载 2019-06-17 15:01:11 · 3851 阅读 · 0 评论 -
Double类型精度问题&&BigDecimal用法
Double类型精度问题&&BigDecimal用法 一. Double 代码 @Test public void testDouble() { double a = 0.1; double b = 0.2; double c = 0.3; System.out.println(a + b); System.out.println(c - a); Syste...原创 2019-06-17 21:29:35 · 1631 阅读 · 1 评论
分享