最近在开发项目中需要用到数值计算的问题用到了Bigdecimal类型数据,踩了不少坑:
1、postman或者浏览器接收Bigdecimal类型数据精度问题
这个数值后端的计算方法是
new BigDecimal(对象.getActualPoints).setScale(2, BigDecimal.ROUND_DOWN)
ROUND_DOWN表示向下取,如:0.994--0.99,1.238--1.23;
其中有一个字段经过后端处理之后的结果是45.00,但是返回到postman中就是45,在网上找到一个问题说是postman的问题,点击raw就可以
其实点击浏览器response也能发现结果是带小数点的,只是在转json时就没有了。
有个解决方法是在需要保留精度的字段上添加@JsonFormat(shape=Shape.STRING)将要保留精度的数值转为字符串。但我觉得最好一开始定义字段类型就改为String,String类型不会出现该问题。
2.Bigdecimal向下取数据并保留两位小数的精度问题
这几个数值都会有精度问题,想问下是为什么