JS中0.28100, 0.29100 和 0.28/100 得到的值精准度问题

最新推荐文章于 2023-04-22 11:13:14 发布

qq_43351249

最新推荐文章于 2023-04-22 11:13:14 发布

阅读量749

点赞数

文章标签： javascript

原文链接：https://blog.csdn.net/qq_40259641/article/details/106013815

版权

博客讨论了浮点数计算时出现的精度误差，如0.28*100和0.29/100不准确。原因是计算机内部表示浮点数的近似值。为了解决元转分场景下的问题，建议使用parseInt加上小数点后一位的补偿值。此方法适用于将元转换成分的转换，确保结果无误。

摘要由CSDN通过智能技术生成

包括0.07*100=7.000000000000001, 2.9/100=0.028999999999999998等等

场景还原:

乘法:

0.28和0.29乘100都没有得到预期的值.

除法:

0.28除100没有得到预期的值, 0.29正常, 但是2.9/100依然有问题.

原因:

浮点数不能直接进行相等比较, 计算机中是采用近似值来保存浮点数的，当进行浮点数相关的计算时，需要时刻提防由于精度问题所导致的误差，并注意避免那些会影响到结果正确性的误差（所谓正确性，就是误差超出了所允许的最大范围）。

解决办法:

因为我的需求是将元为单位的数值转成分给到数据库存储,

所以不存在0.001这种分以下的情况

也不存在有浮点数返回给前端做除法的情况

以下仅供元转分这种使用场景参考


   
   
     
     
      
      
     
     
     
     
      
      
       
       // 仅供元转分这种使用场景参考
      
      
     
     

     
     
      
      
     
     
     
     
      
      
       
       parseInt(
       
       0.28 * 
       
       100 + 
       
       0.1) 
       
       //其中加0.1是解决0.29*100=28.9xxx的问题