js中的浮点数累加求和精度不准，踩坑！

最新推荐文章于 2024-04-20 17:08:00 发布
最新推荐文章于 2024-04-20 17:08:00 发布
阅读量843 收藏 1
点赞数 1
文章标签： 前端 javascript java
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_61367293/article/details/126093002
版权

分享一个线上遇到的bug，项目中涉及到计算两个数据之和的位置出现了报错，定位问题后发现，求和是前端用js语言计算的，传过去数据是两个小数，传回来数据就不正确；

如图：

 用js计算两数相加后，小数点后多个很多位，明显精度不准确，网上查了资料后发现js确实存在这个bug

解决方式：可以沟通好传回几位小数，然后字符串切割后传回；

小伙伴们可以参考以下，应该还有其他更多的解决方式！

zs_1024
关注
  • 1
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
全面总结 JS 中浮点数运算不准确的原因及解决办法
止水聊技术
10-20 4707
"经常会碰到一个问题，"为什么 0.1 + 0.2 !== 0.3? "，我找了很多资料，尽可能全面地分析原因和解决办法。"这里先给出判断方法Math.abs(0.1+0...
JavaScript浮点数及运算精度调整详解
01-19
浮点数的精度问题不是JavaScript特有的，因为有些小数以二进制表示位数是无穷的。 十进制 二进制 0.1 0.0001 1001 1001 1001 … 0.2 0.0011 0011 0011 0011 … 0.3 0.0100 1100 1100 1100 … 0.4 0.0110 ...
详解JavaScript 浮点数运算的精度问题
10-16
主要介绍了详解JavaScript 浮点数运算的精度问题，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
JS中有关于小数(浮点数)的计算会出现精准度丢失的问题
qq_55822929的博客
03-29 1290
JS中所有值都是以2进制在计算机底层进行存储的(浮点数转为二进制，可能出现无限循环的情况]+ 在计算机底层存储的时候，最多存储64位舍弃了一些值（计算机是几位最大存储位就是多少位），值本身就失去了精准度]3、使用三方库如Math.js 、decimal.js。解决方案： 1、 toFixed保留小数点后面N位，他自己会四舍五入。产生精度丢失的原因：计算机存储的位数是有限的。最后的完善版其实也不算很好，水平有限，将就看吧！
js计算 加减乘除 精度问题处理
最新发布
weixin_38337609的博客
04-20 365
js计算 加减乘除 精度问题处理
js 浮点数计算精确度不准确的解决方案
weixin_30709929的博客
04-23 416
原博文地址：https://www.cnblogs.com/zdz8207/p/js-number-tofixed.html 12*1.2 != 14.4 得到14.3999999 0.1+0.2 != 0.3 得到0.30000000000000004 为什么会这样呢？ 原来js在计算浮点数时会先把浮点数转换成二进制，其中会出现误差，相加完再转换乘十进制时又会出现误差，吧啦吧啦吧啦，大概...
js计算精确度丢失问题解决
weixin_34242509的博客
10-15 962
(function () { var calc = { /* 函数，加法函数，用来得到精确的加法结果 说明：javascript的加法结果会有误差，在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。 参数：arg1：第一个加数；arg2第二个加数；d要保留的小数位数（可以不传此参数，如果不传则...
JS中浮点数相加精度不准确的解决方法
weixin_42864357的博客
10-14 1036
使用下面方法进行转换运算 function addNum (n1, n2) { var s1,s2,m; try { s1 = n1.toString().split(".")[1].length; } catch (e) { s1 = 0...
解决js浮点数运算的精度问题
01-08
在javascript中进行运算的时候经常会出现浮点数的问题，导致运算结果不准确 比如：0.1 + 0.2 = 0.30000000000000004 完整demo及解决方案如下： demo .num-tags, .total-tag { text-align: center; } i { ...
关于Python中浮点数精度处理的技巧总结
09-21
双精度浮点数(double)是计算机使用的一种数据类型，使用 64 位（8字节） 来存储一个浮点数。下面这篇文章主要给大家总结介绍了关于Python中浮点数精度处理的技巧，需要的朋友可以参考借鉴，下面来一起看看吧。
js浮点类型精度问题（两个值相加结果不正确）
yigeshaoziwei的博客
10-09 986
需求：左边表格相加的值 与 右边表格相加的值相同 1、场景：在js中float数据相加，有的正确有的错误 1.001+2.002=3.0029999999999997 原因是js自带的精度问题， 参照网上： //浮点类型 加法 function floatAdd(arg1, arg2) { var r1, r2, m; try { r1 = arg1.toString().split(".")[1].length//获取小数点的位数 } ...
js的大数相加结果出错问题
wanghe1111_的博客
03-30 1796
js的大数相加结果出错问题
解决js加减计算精度误差的问题
搬砖的石头
02-17 4222
最近在做一个记账小程序的时候发现js的加减算法会有误差，例如 console.log(0.1+0.2); console.log(6.8-0.9); 0.30000000000000004 5.8999999999999995 在浮点数计算的时候，很多时候产生的都是这种极限数据，如果要精确进行整数转换，要放大的倍数过大 下面是解决的方法： //消除js计算误差add、reduce是传入的加减数字,reduce是被加数（被减数），s是加减符号 function formatNum(add, re.
怎么解决前端累加0.1精度丢失的问题
weixin_57337821的博客
09-13 258
如果必须进行浮点数计算，应该采取适当的处理措施，以提高计算结果的准确性。在前端中进行浮点数计算时，由于浮点数的二进制表示方式，可能会出现精度丢失的问题。例如，可以将所有操作数乘以 10，然后进行整数加法，最后再除以 10，得到结果。这样可以避免浮点数精度问题。使用精确的数学库：使用一些精确的数学库或工具，例如 Decimal.js、big.js 等，这些库提供了更高精度的数值计算，可以避免浮点数精度丢失的问题。避免直接比较浮点数：由于浮点数精度问题，直接比较浮点数可能会得到意想不到的结果。
js累加计算会出现多位小数
qq_45634989的博客
07-04 1272
js 小数累加计算会出现多位小数的情况
js小数相加出现误差的问题及其解决办法
LQlove1的博客
12-08 1297
javascript小数相加计算的误差问题和解决办法
js计算组件 小数运算失真问题解决 （mathjs）
weixin_34403976的博客
10-20 793
小数运算结果失真问题解决 mathjs
js求和精度问题(附上引用的js代码)
qq_38687592的博客
01-13 3099
计算精度问题： let a=490024.67; let b=100000; let c=new Decimal(a).add(new Decimal(b)) console.log(c.toNumber())
浮点数float累加误差分析与解决
疯语者
12-19 2043
1.  浮点数IEEE 754表示方法 要搞清楚float累加为什么会产生误差，必须先大致理解float在机器里怎么存储的，具体的表示参考[1] 和 [2]， 这里只介绍一下组成 由上图可知(摘在[2])， 浮点数由： 符号位 + 指数位 + 尾数部分， 三部分组成。由于机器中都是由二进制存储的，那么一个10进制的小数如何表示成二进制。例如: 8.25转成二进制为1000.01, 这是因为 1...
前端js浮点数运算问题解决
05-21
在前端JS中，由于浮点数的精度问题，进行运算时可能会出现一些不准确的结果。为了解决这个问题，我们可以使用一些技巧： 1. 将浮点数转换成整数进行运算，最后再将结果转换回浮点数。 2. 使用toFixed方法对浮点数进行四舍五入保留指定位数的小数。 3. 使用Math库中提供的round、floor、ceil等方法对浮点数进行取整。 4. 避免使用浮点数进行比较，而是使用一个误差范围来判断两个浮点数是否相等。 下面是一些示例代码： //将浮点数转换成整数进行运算 let a = 0.1, b = 0.2; let c = (a * 10 + b * 10) / 10; //0.3 //使用toFixed方法保留两位小数 let d = 1.23456789; let e = d.toFixed(2); //1.23 //使用Math库中的方法对浮点数进行取整 let f = 1.5; let g = Math.round(f); //2 let h = Math.floor(f); //1 let i = Math.ceil(f); //2 //使用误差范围判断浮点数是否相等 function isEqual(a, b) { return Math.abs(a - b) < 0.000001; } let j = 0.1 + 0.2; let k = 0.3; console.log(isEqual(j, k)); //true

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值