- 博客(2)
- 收藏
- 关注
原创 java中double在除法上的易错点(高精度误差)
如果是要得出一个正确的值,大概是用BigDecimal类型?如果是要判断相等的话用相减绝对值小于一定精度来判断。运行结果本应该是1.6,但实际输出为。由于java虚拟机导致的误差出现了。
2024-03-05 21:15:36 222
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
如果是要得出一个正确的值,大概是用BigDecimal类型?如果是要判断相等的话用相减绝对值小于一定精度来判断。运行结果本应该是1.6,但实际输出为。由于java虚拟机导致的误差出现了。
2024-03-05 21:15:36 222
TA创建的收藏夹 TA关注的收藏夹
TA关注的人