【无标题】

浮点精度问题

【编码演示】

0.1 + 0.2 == 0.3       //false

由于浮点数在转换成二进制数时存在一定的误差,所以就导致使用浮点数必然会存在一个精度的问题,小数的计算会存在误差。

解决这一问题有两个解决办法:

1.自定义一定的精度,例如可以指定数据只要满足小数点后两位即可,或者将钱数精确到分等。

2.利用BigDecimal,Java和Scala中都有BigDecimal对象,利用它能够准确地解决符点数精度问题。

在scala中0.1+0.2≠0.3(只有这一个式子不成立)同样这个问题也可以用下述大数问题解决

下面学习scala中数值的另一个常用场景,那就是大数的处理。

无论是浮点数还是整数,它都有一定的取值范围,当我们赋予的值不在该取值范围内时就是我们说的大数问题。

查看整数的最大值,在Scala解释器中输入Int.MaxValue并按[Enter]键,可以得到整数的最大值是2147483647。一旦超过这个范围就会报错。

BigInt和BigDecimal可分别用于解决整数和浮点数大数问题。(就相当于把这些数字改成字符串)

eg:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值