js的浮点数不精确,toFixed()结果出乎意料

toFixed() 方法可把 Number 四舍五入为指定小数位数的数字。

那为什么2.55.toFixed(1)的结果是2.5不是2.6呢。

计算机里的数字运算是不精确的

例如在浏览器控制台上

这种不精确的现象出现在3个方面

存储、运算、显示都有可能不精确。

存储

0.2在计算机的存储方式

出现无限循环小数0011,在最后一个数本来是0,计算机存储有精度限制,超出部分会舍弃,0的最后一位是1,所以往前进一位。

二进制计算方式:

整数用2进制表示得到0.

小数0.2*2=0.4 不足1 得到0.0 

0.4*2=0.8 不足1 得到0.00

0.8*2=1.6 超过1 得到0.001

0.6*2=1.2 超过1 得到0.0011        以此类推

运算

0.1和0.2的最后一位都是进一位操作,0.3最后一位没有进位,

所以0.2的二进制比原来大一点,0.3的二进制比原来小一点,两者抵消就精确了,而0.1的二进制比原来的大一点,所以二者相加比原来更大了,就不精确了。

显示

 a在存储中明明是不精确的,为什么显示时精确呢

是因为浏览器在显示时会做近似处理

 toFixed问题

 

toPrecision() 方法返回指定长度的数值字符串。

toPrecision() 方法以指定的精度返回该数值对象的字符串表示,四舍五入到 precision 参数指定的显示数字位数。

这里就可以看出2.55保留一位为什么不是2.6了

 

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值