场景描述
在项目中一个计算百分比的地方,用到如下计算
proportion[i]= (data[i].defnum/countNum).toFixed(4) * 100;
结果发现计算结果却不是预期想要的 — > result : 24.279999999999998 类似这种结果
解决
- 在公式之前进行浮点确定(允许误差范围内).在使用toFixed保留位数 ; 如
proportion[i]= (100 * data[i].defnum/countNum).toFixed(2) ;
原因
其实在改计算中,toFixed方面并不是导致问题的关键,原因出在与计算机对浮点问题的描述,比如说你在浏览器控制台输入算式 如:
明显发现有些结果并不能精确表示,也就是并不是我们预期想要的。
所以又有了为什么计算机对某些浮点数不能表述又是什么意思?
这就得归根于咱计算机存储数据是用二进制存储(不要再问我二进制是怎么存的,你就这么记着吧~)
精度丢失在哪里?
在浏览器中输入了一波数字 ,看起来好像并没有什么偶数啊 奇数什么的可以精确表示的规律,那到底是为啥呢?
本人猜测,可能与计算机数字转换有关,也可能精度丢失于此!