【Java】浮点型运算结果不精确的原因

在这里插入图片描述

解析:

单精度有7~8位小数,双精度有15位小数
二进制存储,单精度只有16个二进制位,双精度有64个二进制位,将十进制浮点数转换为二进制浮点数时,有时也是不可能精确的,就如同十进制不能有有限的位数来准确表示1/3,二进制也无法准确表示1/10,因为底层数据都是用二进制来进行存储,有的数据同样不能用有限个2的整数次幂相加所表示出来,而double类型存储尾数部分最多只能存储52位,于是,计算机在存储该浮点型数据时,便出现了精度丢失。
在进行浮点类数据计算的时候,浮点参与计算,会左移或右移n位,直到小数点移动到第一个有效数字的右边,于是也可能出现精度丢失。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值