javaEE
Amuletoday
这个作者很懒,什么都没留下…
展开
-
double类型的2.0-1.1为什么等于0.89999 但是2.0-0.1却可以=1.9
double类型的2.0-1.1为什么等于0.89999double类型占了64位。第一位为符号位,0为正,1为负。最后52位为十进制转换为二进制后的值。中间11位为阶码,可表示-1024~1023,表示最后52位为2的多少次方。比如最后52位为二进制的1.0*2^1(即二进制10),那么十一位阶码的十进制值为1,为了方便表示,加上1023变成非负数。float类型占32位(1位符号位,...转载 2019-06-17 15:01:11 · 3793 阅读 · 0 评论 -
Double类型精度问题&&BigDecimal用法
Double类型精度问题&&BigDecimal用法一. Double代码@Testpublic void testDouble() {double a = 0.1;double b = 0.2;double c = 0.3; System.out.println(a + b); System.out.println(c - a); Syste...原创 2019-06-17 21:29:35 · 1590 阅读 · 1 评论