精度丢失问题

问题提出:12.0f-11.9f=0.10000038,"减不尽"为什么?
在这里插入图片描述
实线代表合法转换即无信息丢失的转换,虚线表示转换可能存在精度丢失问题。
在进行两个数值的运算时

如果两个操作数中有一个是double类型的,另外一个自动转换为double类型。
如果其中一个操作数是float类型的,另外一个操作数也将自动转换为float类型。
如果其中一个操作数是long类型的,另外一个操作数也将自动转换为long类型。
否则,两个操作数都会被转换为int类型。
所以在对两个不同类型操作数进行运算时,就可能存在精度丢失的问题。

​ 例如:当一个int型数值和一个float型数值进行运算时,int型操作数将会自动转换为float型操作数。那么int型数值是如何转换为float型数值的?首先要了解他们是如何存储在计算机中的。整型在计算机中以第一位表示符号,剩余尾数表示数值的一串二级制数字来表示,而浮点型无论单精度还是双精度都有相同的存储方式:

符号位
指数位
尾数位

​ 其中符号位表示浮点数的正负,指数位表示其的阶位,以移位的形势表现,尾数为表示其数值。其中float 1位符号位,8位指数位,23位尾数位。double 1位符号位,11位指数位,52位尾数位。
​ 所以当一个int 类型的数值转换为float类型是,int型数值的32位拆分为 1位符号位,8位指数位,23位尾数位,改变了原本的表示方式,故产生了精度丢失。
​ 其他的转换类似,当位数不够时通过补0来凑够位数。
java中double和float精度丢失问题
float和double类型尤其不适合用于货币运算,因为要让一个float或double精确的表示0.1或者10的任何其他负数次方值是不可能的(其实道理很简单,十进制系统中能不能准确表示出1/3呢?同样二进制系统也无法准确表示1/10)。
为什么会出现精度丢失,以及如何解决?
点击这里找到答案

  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值