JS浮点数运算出现Bug的解决方案

最新推荐文章于 2023-08-17 08:40:24 发布
最新推荐文章于 2023-08-17 08:40:24 发布
阅读量769 收藏 1
点赞数 4
分类专栏： JavaScript 网络知识 文章标签： js js浮点数 JavaScript浮点数 js浮点数bug
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/a_dreaming_fish/article/details/50483853
版权

js在进行小数运算时的bug问题，常常被我们忽略。

 

例如JS在运行37.5*5.5=206.08 (JS算出来是这样的一个结果，我四舍五入取两位小数) 
JS结果为：206.08499999999998

 

解决办法：Number( ( 37.5*5.5 ).toFixed(2) )

一条有梦想的鱼
关注
  • 4
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
关于JS浮点数运算不精确的原因和解决方案
weixin_42723136的博客
06-21 953
思路其实非常简单，既然浮点数的情况下会丢失精度，那我们所有运算的时候都先小浮点数转换为整数，等计算完之后，再按比例转换会浮点数，这样就避免了再二进制十进制转换的时候计算机的精度问题。之前在一个项目中，涉及到了金额，协议组定的标准是按照分的单位进行传递的，但是交互上，web页面中为了更友好的体验，是使用的元作为单位的，这个时候就需要转换一下单位。本来是很简单的一个转化的需求，在和后端联调的时候发现，保存的时候返回了参数错误，原因就是由于js浮点数精度带来的影响，导致保存的时候保存的位数特别多。
解决JS浮点数运算出现Bug的方法
10-27
解决JS浮点数运算出现Bug的方法 浮点数运算是一个基本的数学操作，在编程语言中非常常见。然而，在 JavaScript 中，浮点数运算却常常出现_bug_，导致结果不准确。这种情况下，我们需要找到解决方法来确保浮点数运算...
js浮点数四则运算精度丢失以及toFixed()精度丢失解决方法
weixin_55846296的博客
02-13 4972
js采用64位浮点数表示法（几乎所有现代编程语言所采用），这是一种二进制表示法。二进制浮点数表示法并不能精确表示类似 0.1 这样简单的数字。从上面四则运算精度丢失的例子可以看到，四则运算的精度丢失主要会出现很多位 0 或很多位 9。JavaScript的未来版本或许会支持十进制数字类型以避免精度丢失的问题。这个问题不只在js中才会出现，在任何使用二进制浮点数的编程语言中都会出现。precision 可选值：不传，0，负数，正数。
关于浮点数的原理，误差，以及你想知道的一切
最新发布
m0_73915763的博客
08-17 630
，而不是每个十进制小数都能一一对应的找到二进制小数的。像网络游戏的帧同步方案，对平台的之间的误差会造成玩家之间的不同步，常用的最直接的做法就是，运算层面做一层封装，禁用浮点数，用定点数之类的代替。个人觉得，NaN的弊病，在于没听说过NaN规则的同学，会觉得反直觉，没有crush，但是却在其他地方产生的表现不一样的bug， 比如用==， >之类的符号。但未必是这样的，这要看编程语言的时候，有的编程语言是能继续正常运行的，因为IEEE规定了NaN来表示所有没有意义的数，可以看做“浮点数的Null”
解决JavaScript浮点数(小数) 运算出现Bug的方法
m0_72929120的博客
08-10 347
例如37.2 * 5.5 = 206.08 就直接用JS算了一个结果为： 204.60000000000002 怎么会这样， 两个只有一位小数的数字相乘， 怎么可能多出这么小数点出来。比如： 7 * 0.8 JavaScript算出来就是： 5.6000000000000005 网上找到了一些解决办法， 就是重新写了一些浮点运算的函数或直接扩大倍数运算。/ 如果在知道小数位个数的前提下， 可以考虑通过将浮点数放大倍数到整型(最后再除以相应倍数)， 再进行运算操作， 这样就能得到正确的结果了。
浮点数精度误差带来的一个BUG
Knight_snow的专栏
03-09 1965
浮点数我想没有程序员不了解的，大多情况下浮点数是可以满足精度的，而且32位的浮点数
JS浮点数运算结果不精确的Bug解决
10-16
JavaScript中的浮点数运算在某些情况下可能会导致不精确的结果，这是由于其内部处理机制和IEEE-754标准的特性所致。...可以结合上述方法，根据具体需求选择合适的解决方案，以避免因浮点数运算不精确而引发的错误。
js 加密压缩出现bug解决方案
12-03
这种情况精简后查错的方法：打开IE的脚本错误提示，然后打开调用JS的HTML页面，它会报告缺少分号的所在位置，然后用UE打开精简后JS文件，转到相应位置加上分号，再找到未精简的JS代码中对应的位置加上分号。...
js 浮点数计算Bug
QDY5945的博客
10-08 461
之前在写项目时候，直接对带小数点的数据进行运算，发现所得到的值并不是自己想要的。 经过一系列学习后，发现在JavaScript中，浮点数运算都是先转换成二进制，在转成二进制的时候有出现无限循环小数，故...
关于JS运算，出现多余小数点尾数，浮点问题处理
qq_45950523的博客
06-15 5748
js 计算 如3.6-3=0.6000000000000001。加减乘除，就不一一举例了。 原因 十进制的0.1和0.2都会被转换成二进制，但由于浮点数用二进制表达时是无穷的，例如。 JavaScript 代码: 0.1 -> 0.0001100110011001...(无限) 0.2 -> 0.0011001100110011...(无限) 整数的精度问题 19571992547450991===19571992547450992 // true 同样的原因，在 JavaScript 中
解决JS浮点数(小数)计算加减乘除的BUG
05-23
解决JS浮点数(小数)计算加减乘除的BUG
js小数运算出现多位小数如何解决
10-23
关于JavaScript小数进行加、减、乘、除出现多位小数问题，自己研究了一下，而且作了相关的测试，收获不少知识点，需要的朋友可以参考下
js中浮点型运算 bug的解决办法
weixin_33958366的博客
12-09 191
2019独角兽企业重金招聘Python工程师标准>>> ...
js乘法出现浮点数
Java陈小白
01-23 2471
说明 众所周知，js在计算浮点数时候，结果可能会不准确。比如：（在chrome中的运算结果）  2.2 + 2.1 = 4.300000000000001  2.2 - 1.9 = 0.30000000000000027  2.2 * 2.2 = 4.840000000000001  2.1 / 0.3 = 7.000000000000001 网上流传的代码（有bug） 网上流传的优化后的代码如...
JS浮点数运算Bug的解决办法
w_y_loong的专栏
12-21 647
37.5*5.5=206.08 (JS算出来是这样的一个结果，我四舍五入取两位小数)  我先怀疑是四舍五入的问题，就直接用JS算了一个结果为：206.08499999999998  怎么会这样，两个只有一位小数的数字相乘，怎么可能多出这么小数点出来。  我Google了一下，发现原来这是JavaScript浮点运算的一个bug。  比如：7*0.8 JavaScript算出来就是：5.60
JS浮点运算错误，解决方法（转）
widjly的专栏
11-08 884
<br />/除法函数，用来得到精确的除法结果<br />//说明：javascript的除法结果会有误差，在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。<br />//调用：accDiv(arg1,arg2)<br />//返回值：arg1除以arg2的精确结果<br />function accDiv(arg1,arg2){<br />     var t1=0,t2=0,r1,r2;<br />     try{t1=arg1.toString().split(".")[1].le
js 加减乘除运算
weixin_30547797的博客
01-20 154
function add(a, b) { var c, d, e; try { c = a.toString().split(".")[1].length; } catch (f) { c = 0; } try { d = b.toString().split(".")[1].l...
plt.imshow函数使用是出现了无法将图片转成浮点数的bug如何解决
04-20
关于plt.imshow函数出现无法将图片转成浮点数的bug的解决方法，可以尝试将图片通过PIL库进行打开和转换为浮点数，然后再使用matplotlib的imshow函数进行显示，具体代码如下： ```python from PIL import Image ...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值