精度的丢失

​ 例如:当一个int型数值和一个float型数值进行运算时,int型操作数将会自动转换为float型操作数。那么int型数值是如何转换为float型数值的?首先要了解他们是如何存储在计算机中的。整型在计算机中以第一位表示符号,剩余尾数表示数值的一串二级制数字来表示,而浮点型无论单精度还是双精度都有相同的存储方式:

符号位
指数位
尾数位

​ 其中符号位表示浮点数的正负,指数位表示其的阶位,以移位的形势表现,尾数为表示其数值。其中float 1位符号位,8位指数位,23位尾数位。double 1位符号位,11位指数位,52位尾数位。
​ 所以当一个int 类型的数值转换为float类型是,int型数值的32位拆分为 1位符号位,8位指数位,23位尾数位,改变了原本的表示方式,故产生了精度丢失。
​ 其他的转换类似,当位数不够时通过补0来凑够位数。
java中double和float精度丢失问题
float和double类型尤其不适合用于货币运算,因为要让一个float或double精确的表示0.1或者10的任何其他负数次方值是不可能的(其实道理很简单,十进制系统中能不能准确表示出1/3呢?同样二进制系统也无法准确表示1/10)。
为什么会出现精度丢失,以及如何解决?
————————————————

  • 2
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值