double类型的2.0-1.1为什么等于0.89999 但是2.0-0.1却可以=1.9

double类型的2.0-1.1为什么等于0.89999

double类型占了64位。

第一位为符号位,0为正,1为负。

最后52位为十进制转换为二进制后的值。

中间11位为阶码,可表示-1024~1023,表示最后52位为2的多少次方。比如最后52位为二进制的1.0*2^1(即二进制10),那么十一位阶码的十进制值为1,为了方便表示,加上1023变成非负数。

float类型占32位(1位符号位,8位阶码,23位二进制值)

将2.0转换为二进制表示

整数部分为10

小数部分为00000000000000000000000000000000000000000000000000

整数部分和小数部分合起来占52位

将1.1转换为二进制表示

整数部分为1 (整数部分转换为二进制为不停地除以2,直到为1为止)

小数部分为00011001100110011001100110011001100110011001100110 (0.1转换为二进制表示为不停地*2,直到小数部分为0为止)

最终二进制2.0 减去二进制1.1 (原理同十进制减法,不够向前借位)

得到0.111001100110011001100无穷循环,为0.89999999

2.0二进制为:0 10000000000 1000000000000000000000000000000000000(51个0) (阶位计算为1+1023)

1.1二进制位:0 01111111111 100011001100110011001100110011001100 1100 (阶位计算为0+1023)

0.89999999表示为二进制为:0 011111110 111001100110011001100(1100循环直到52位) (阶位计算为-1 + 1023)

2.0-0.1却可以=1.9

用10进制打一个比方,有一个10进制存储的浮点数,可以保持4位尾数

50/11和16/11分别是4.5455和1.4545,前者因为后面的尾数5所以导致了进位,对吧

二进制也是一样

0.1(dec) = 0.0001100110011001100…(bin)

那么要看尾数最后一位是多少,如果卡到00上面,那么舍去的比较多,就会出现9999,如果卡在11,舍去的比较少,就正好是1,9了

  • 3
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值