遗留:
1. 定点数和浮点数的区别
2.java中的浮点数和js的浮点数, 以及java返回给js的有符号位的浮点数可能导致的问题
浮点数的表示方法, 有的语言用string表示, 有的语言转成二进制表示
如果是进制转换, 就可能需要转成无限小数问题, 而截取的位数是有限的, 进而损失精度.
另外, java和js都使用二进制的科学计数法去表示十进制的数, 所以是属于进制转换, 在取值范围和精度上都有限制如java:
float 32bit:1bit(符号位) 8bits(指数位) 23bits(尾数位, 相当于二进制的精度位)
double 64bit:1bit(符号位) 11bits(指数位) 52bits(尾数位, 相当于二进制的精度位)
由于历史, 项目中使用的double
有位大哥使用了 double*100
public static void main(String[] args) {
double a = 152.70;
System.out.println(a);
System.out.println(a * 100);//15280.000000000002
System.out.println(Math.round(a * 100));//还凑合
double b = 152.70;
System.out.println(b);
System.out.println(b * 100);//15269.999999999998
System.out.println((int)(b * 100));//15269 错误!!!不是想要的
}
然后把15280.000000000002 - 15280 = 1.8189894035458565E-12这个结果返回给了前端,
前端拿去和0比较, 结果就炸了
原因:就是double的精度问题. 单个double数可能就有损失精度, 多个double数运算(减法和乘法都输入加法)可能导致损失的精度更多
解决方法:
1.能整形变量就绝不浮点变量, 如果用了浮点数, 在做比较的时候最好转为整数后在比较.
2.使用Math.round(a * 100), 一般是可以的, 这个0.000000000002会干扰你四舍五入的前提是你的当前这个数的精度达到了0.00000000001, 不然是无影响的
3.Java 中Double型强制转换成int型时是向下取整, 别使用, 万一你拿到的是15279.9999999998, 就把想要的15280变成15279了
后话:
1. 出了使用bigdecimal外, 用dou = (double)Math.round(dou*100)/100 可以保留两位小数 , *1000)/1000可以保留三位
2. 15280.000000000002 经过数据库存储后, 数据库的double字段也是设计了精度的,比如两位, 所以还是会截取到保留2位小数, 从数据库拿的数据给前端的话是还行的
有用的链接:
1.https://www.zhihu.com/question/42024389
补充: 科学技术发截取一定有效位数后, 被舍弃的精度通常(没见过其他的)一定要四舍五入处理的, 假如不处理, 例如直接舍弃, 那会造成152.80变成152.9999999999999999
如果四舍五入呢, 会好一些, 但是结果你也会看到, 属于五入的152.79999999999998**** == 四舍的152.79999999999999******, 编译器或者ide会直接提示你这两个数是在java double类型下是 == 的
2.阿里开发手册有提到js的浮点数位数比java的少, 所以java的极小的浮点数可能会是js中的一个很大数
可以用下面的程序看看你想输入的数字, 比如元转分的double(傻帽)是否会带个小尾巴
public static void main(String[] args) {
Scanner sc = new Scanner(System.in);
while (true) {
// System.out.println("ScannerTest, Please Enter Name:");
// String name = sc.nextLine(); //读取字符串型输入
// System.out.println("ScannerTest, Please Enter Age:");
// int age = sc.nextInt(); //读取整型输入
// System.out.println("ScannerTest, Please Enter Salary:");
System.out.println("-----请输入数字, 例如152.80, 我们会只保留2位有效数字------:");
double salary = sc.nextFloat(); //读取float型输入
salary = (double) Math.round(salary * 100) / 100;
System.out.println("您本轮的输入的数字以及*100后的结果");
System.out.println(salary);
System.out.println(salary * 100);
System.out.println(Math.round(salary * 100));
//四舍五入, 如果你确定期望值是整数, 那么小数位的造成就是丢了一小小小点的精度, 即便精度放大了一百倍, 也不会到0.4这个关口, 所以四舍五入会拿到期望的数值
System.out.println((int)(salary * 100));//危险, 直接舍弃所有小数位, 即向0取整
}