Java浮点数float，bigdecimal和double精确计算的精度误差问题

最新推荐文章于 2024-01-12 21:47:25 发布

zz白龙

最新推荐文章于 2024-01-12 21:47:25 发布

阅读量762

点赞数

分类专栏：面试文章标签：算法

面试专栏收录该内容

15 篇文章 0 订阅

订阅专栏

学习到一篇博客内容，值得做一篇笔记：
建议阅读原文，本文只是粗略笔记
原文连接：
https://www.cnblogs.com/wangyt223/p/6210916.html

1.double小数转bigdecimal后四舍五入计算有误差
案例：

double g= 12.35;

BigDecimal bigG=new BigDecimal(g).setScale(1, BigDecimal.ROUND_HALF_UP);
//期望得到12.4

System.out.println(“test G:”+bigG.doubleValue());

test G:12.3

原因：

定义double g= 12.35; 而在计算机中二进制表示可能这是样：定义了一个g=12.34444444444444449，
new BigDecimal(g) g还是12.34444444444444449
new BigDecimal(g).setScale(1, BigDecimal.ROUND_HALF_UP); 得到12.3

正确的定义方式是使用字符串构造函数：
new BigDecimal("12.35").setScale(1, BigDecimal.ROUND_HALF_UP)

bigdecimal比等方法
如浮点类型一样， BigDecimal 也有一些令人奇怪的行为。尤其在使用 equals() 方法来检测数值之间是否相等时要小心。 equals() 方法认为，两个表示同一个数但换算值不同（例如， 100.00 和 100.000 ）的 BigDecimal 值是不相等的。然而， compareTo() 方法会认为这两个数是相等的，所以在从数值上比较两个 BigDecimal 值时，应该使用 compareTo() 而不是 equals() 。

另外还有一些情形，任意精度的小数运算仍不能表示精确结果。例如， 1 除以 9 会产生无限循环的小数 .111111… 。出于这个原因，在进行除法运算时， BigDecimal 可以让您显式地控制舍入。 movePointLeft() 方法支持 10 的幂次方的精确除法。

与零比较：
int r=big_decimal.compareTo(BigDecimal.Zero); //和0，Zero比较
if(r0) //等于
if(r1) //大于
if(r==-1) //小于