0.1+0.2等于0.3吗

今天下午突然看到js中的精确度的问题然后自己私下研究了一下,当我打入如下代码

你会发现这段代码不会输出0.3,因为在js中这样是不会相等的,一会在解释,然后我又键入下列代码


发现这段代码能够完好的执行,并输出0.4,然后我就纳闷了,这是为什么然后看了一些资料,然后了解并解决了这种问题,真是当时计算机组成基础没有打好,然后查了一下用移码表示浮点数的问题

十进制0.1

二进制0.00011001100110011…(循环0011)
=>尾数为1.1001100110011001100…1100(共52位,除了小数点左边的1),指数为-4(二进制移码为00000000010),符号位为0
=> 计算机存储为:0 00000000100 10011001100110011…11001
=> 因为尾数最多52位,所以实际存储的值为0.00011001100110011001100110011001100110011001100110011001
而十进制0.2
=> 二进制0.0011001100110011…(循环0011)
=>尾数为1.1001100110011001100…1100(共52位,除了小数点左边的1),指数为-3(二进制移码为00000000011),符号位为0
=> 存储为:0 00000000011 10011001100110011…11001
因为尾数最多52位,所以实际存储的值为0.00110011001100110011001100110011001100110011001100110011
   那么两者相加得:
0.00011001100110011001100110011001100110011001100110011001
+ 0.00110011001100110011001100110011001100110011001100110011 (确认??)
= 0.01001100110011001100110011001100110011001100110011001100
转换成10进制之后得到:0.30000000000000004
我们也可以用下列代码来实现上述问题


你会发现0.2和0.1相加会出现移位,这样就会出现误差,但是当我们来实现0.1加上0.3时运用git你会发现

你会发现上述俩个相加不会出现移位,所以会输出0.4,希望可以一起加油

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值