运算转化溢出，浮点型不精确，String底层了解

最新推荐文章于 2024-08-16 23:08:28 发布

Seven_and_7

最新推荐文章于 2024-08-16 23:08:28 发布

阅读量286

点赞数

分类专栏：基础文章标签： java

本文链接：https://blog.csdn.net/Seven_and_7/article/details/121480156

版权

基础专栏收录该内容

3 篇文章 0 订阅

订阅专栏

这篇博客探讨了在进行加减乘除运算时可能出现的溢出问题，特别是在Java中，当int类型达到其最大值后，再加1会变为最小值。为了解决浮点数运算的不精确性，文章介绍了BigDecimal类，它提供了如add、subtract、multiply、divide等方法来确保高精度计算。此外，还讲解了BigDecimal的舍入模式，如ROUND_UP、ROUND_DOWN等，用于控制计算结果的舍入行为。

摘要由CSDN通过智能技术生成

常用运算加减乘除取余可能出现的问题:

运算结果类型按照最大数据类型进行转换

byte<short<int<long<float<double

如上图:运算溢出问题

int的取值范围在-2^31(-2147483648)—2^31-1(2147483647)

Integer.MAX_VALUE的最大值+1之后变成立int的最小值，好比一个圆一样

BigDecimal解决浮点数运算不精确的问题：

一些常用api

add(BigDecimal) BigDecimal对象中的值相加，然后返回这个对象。
subtract(BigDecimal) BigDecimal对象中的值相减，然后返回这个对象。
multiply(BigDecimal) BigDecimal对象中的值相乘，然后返回这个对象。
divide(BigDecimal) BigDecimal对象中的值相除，然后返回这个对象。
toString() 将BigDecimal对象的数值转换成字符串。
doubleValue() 将BigDecimal对象中的值以双精度数返回。
floatValue() 将BigDecimal对象中的值以单精度数返回。
longValue() 将BigDecimal对象中的值以长整数返回。
intValue() 将BigDecimal对象中的值以整数返回。

ROUND_CEILING //向正无穷方向舍入
ROUND_DOWN //向零方向舍入
ROUND_FLOOR //向负无穷方向舍入
ROUND_HALF_DOWN //向（距离）最近的一边舍入，除非两边（的距离）是相等,如果是这样，向下舍入, 例如1.55 保留一位小数结果为1.5
ROUND_HALF_EVEN //向（距离）最近的一边舍入，除非两边（的距离）是相等,如果是这样，如果保留位数是奇数，使用ROUND_HALF_UP，如果是偶数，使用ROUND_HALF_DOWN
ROUND_HALF_UP //向（距离）最近的一边舍入，除非两边（的距离）是相等,如果是这样，向上舍入, 1.55保留一位小数结果为1.6,也就是我们常说的“四舍五入”
ROUND_UNNECESSARY //计算结果是精确的，不需要舍入模式
ROUND_UP //向远离0的方向舍入