float double浮点数不精确问题

浮点数不精确的问题主要是因为浮点数的十进制转换二进制存储产生的。

对十进制小数乘2得到的整数部分和小数部分,整数部分既是相应的二进制数码,再用2乘小数部分(之前乘后得到新的小数部分),又得到整数和小数部分.
如此不断重复,直到小数部分为0或达到精度要求为止.第一次所得到为最高位,最后一次得到为最低位


如:0.7 整数部分为0,然后计算
0.7*2=1.4  取整1
0.4*2=0.8  取整0
0.8*2=1.6  取整1
0.6*2=1.2  取整1
0.2*2=0.4  取整0
循环出现
所以十进制的0.7=二进制的0.1 0110 0110……(循环节是0110)


0.25的二进制
0.25*2=0.5 取整是0
0.5*2=1.0    取整是1
所以0.25的二进制为 0.01 ( 第一次所得到为最高位,最后一次得到为最低位)


0.1~0.9只有0.5可以被有限表示,所以很多浮点数是不精确的


  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值