小谈Number.toFixed(num) 问题一二

关于 Number.toFixed(num)的问题

场景描述
在项目中一个计算百分比的地方,用到如下计算

proportion[i]= (data[i].defnum/countNum).toFixed(4) * 100;

结果发现计算结果却不是预期想要的 — > result : 24.279999999999998 类似这种结果

解决

  1. 在公式之前进行浮点确定(允许误差范围内).在使用toFixed保留位数 ; 如
proportion[i]= (100 * data[i].defnum/countNum).toFixed(2) ;

原因

其实在改计算中,toFixed方面并不是导致问题的关键,原因出在与计算机对浮点问题的描述,比如说你在浏览器控制台输入算式 如:
在这里插入图片描述
明显发现有些结果并不能精确表示,也就是并不是我们预期想要的。

所以又有了为什么计算机对某些浮点数不能表述又是什么意思?
这就得归根于咱计算机存储数据是用二进制存储(不要再问我二进制是怎么存的,你就这么记着吧~)

精度丢失在哪里?

在这里插入图片描述
在浏览器中输入了一波数字 ,看起来好像并没有什么偶数啊 奇数什么的可以精确表示的规律,那到底是为啥呢?
本人猜测,可能与计算机数字转换有关,也可能精度丢失于此!

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值