js关于float浮点类型数据加减出现误差的处理

最新推荐文章于 2024-05-12 21:39:39 发布
最新推荐文章于 2024-05-12 21:39:39 发布
阅读量6.9k 收藏 2
点赞数 1
分类专栏： 前端 文章标签： js
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/gaoqiang1112/article/details/79893735
版权

最近在改一个bug 关于不定个数的n个利率相加后再算钱和收益的业务

这里遇到了一个坑  就是当我们想把接过来的利率利用js的parseFloat去处理的时候，我们是好心，当然也是必须，希望得到精确的数据，然后问题就在这 2个浮点数据 例如7.2和3.1 这里会触发这个现象的情况是 我们触发了10进制  当进行10进制的时候  浮点精度丢失就表现出来了

结果为

那我们如何处理这样的问题呢

当然原因是因为10进制和2进制的关系导致的

这篇文章说的很好   大家可以去阅读以下  在这就说解决   

就是把小数变成整数后进行相加减乘除后，再除以之前乘的倍数   从而恢复到原来的小数就可以了  

我这里由于利率是不固定的个数 所以简单了写了一个方法

这样我传的参数是个list  就可以不去考虑参数的个数了  后面的Math.abs 是取绝对值  有无均可

然后再调用的时候声明list 然后进行push就可以了  *100是因为我们传入的利率最多也就2位小数

然后就ok了

如果你觉得我帮到你了，买个肥宅快乐水，怎么样？哈哈哈哈哈哈

gaoqiang1112
关注
  • 1
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
关于js的浮点数加减乘除精度丢失问题
lja123111的博客
06-08 169
<inputtype="text"id="1"> <script> document.getElementById("1").value=parseFloat("1.2")-parseFloat("1"); </script>
JS的float浮点类型变量加减精度问题
雪漠山堂
08-12 2223
JS是弱类型语言，不区分float 和 double，浮点计算是不精确计算，所以会产生很多小数，不同时间的小数结果还很可能不一样。所以一般都要取精确度。
JavaScript的64位浮点数
m0_46655912的博客
02-11 2418
一、JavaScript的64位浮点数 JavaScript 内部，所有数字都是以64位浮点数形式储存，即使整数也是如此。 所以，1与1.0是相同的，是同一个数。 1 === 1.0 // true 这就是说，JavaScript 语言的底层根本没有整数，所有数字都是小数（64位浮点数）。容易造成混淆的是，某些运算只有整数才能完成，此时 JavaScript 会自动把64位浮点数，转成32位整数，然后再进行运算。 由于浮点数不是精确的值，所以涉及小数的比较和运算要特别小心。 0.1 + 0..
【JavaScript】浮点数精度问题
最新发布
小秀的博客
05-12 480
由于浮点数采用二进制表示，某些十进制小数无法准确转换为二进制表示。，在存储时会进行截断。JavaScript 中整数和浮点数都属于 number 数据类型，所有数据都是以 64 位浮点数的形式存储。由于浮点数的表示范围有限，对于超出表示范围的数值，计算机会进行舍入。由于二进制表示的限制，一些十进制小数在转换为浮点数后会存在精度损失。这意味着在进行浮点数计算时，结果可能会与预期的结果有微小的差异。双精度的浮点数在这64位上划分为3段，而这3段也就确定了一个浮点数的值，64bt的划分是“1-11-
解决js加减计算精度误差的问题
搬砖的石头
02-17 4237
最近在做一个记账小程序的时候发现js的加减算法会有误差，例如 console.log(0.1+0.2); console.log(6.8-0.9); 0.30000000000000004 5.8999999999999995 在浮点数计算的时候，很多时候产生的都是这种极限数据，如果要精确进行整数转换，要放大的倍数过大 下面是解决的方法： //消除js计算误差add、reduce是传入的加减数字,reduce是被加数（被减数），s是加减符号 function formatNum(add, re.
JS简单实用的浮动窗口
一直专注于互联网
08-31 2348
&lt;!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd"&gt; &lt;html xmlns="http://www.w3.org/1999/xhtml"&gt; &lt;head&gt; &lt
float2hex 浮点二进制整型数据计算工具
01-22
浮点二进制整型数据计算工具，如`float2hex`，是计算机科学中用于处理和转换浮点数到十六进制表示的关键工具。在编程和数据分析领域，理解和掌握这种转换过程至关重要，因为计算机内部是以二进制形式存储所有数据的...
数据库 数据类型float到C#类型decimal, float数据类型转化无效
01-01
今天运行系统突然出错，数据类型转化无效，错误在system.data.sqlclient.get_decimal()方法，初步估计是数据库的float类型转换为c#的decimal类型时出错了，实体类使用的是decimal?类型，心想就算数据库里的数值是空...
1017浮点型数据类型存储空间大小.cpp
04-30
1017：浮点型数据类型存储空间大小 时间限制: 1000 ms 内存限制: 65536 KB 提交数: 27763 通过数: 22417 【题目描述】 分别定义float，double类型的变量各一个，并依次输出它们的存储空间大小(单位：字节)。 ...
float_sub_add.rar_浮点数_浮点数 加减_浮点数加减_浮点数运算_浮点运算
09-21
浮点数在计算机科学中扮演着至关重要的角色，特别是在数值计算、科学计算和图形处理等领域。...通过阅读和分析"float_sub_add.rar"中的源代码，我们可以深化对浮点数加减运算的理解，并学习如何在实践中实现这些运算。
js浮点数相加、减、乘、除精确计算
黄都伟
02-16 1282
"font-size:18px;">//说明：javascript的加法结果会有误差，在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。   //调用：accAdd(arg1,arg2)   //返回值：arg1加上arg2的精确结果   function accAdd(arg1,arg2){       var r1,r2,m;       try{r1=arg1.to
JS对Float型数字加减乘除bug
JohnGene的博客
01-11 572
问题 0.3*23=6.9 用JS算了一个结果为：6.8999999999999995 怎么会这样，两个只有一位小数的数字相乘，怎么可能多出这么小数点出来。 比如：24*0.6 JavaScript算出来就是：14.399999999999999
js parseFloat 减法小数过多解决方法
fglaile的专栏
04-24 1454
  由于js的float类型便面 不像java那样足够 精确，所以做减法时会出现超多的小数，如何解决，我有如下方法 做法一：四舍五入的做法             Math.round(234432.9- 0.2);             做法二：保留几位小数              var t1 = 234432.9- 0.2;      ...
JS两个浮点数【加、减、乘、除】的操作
牛儿还在山坡上吃草的博客
01-20 665
/** * 两个浮点数求和 * @author yxk * @param num1 * @param num2 * @return {number} */ export function accAdd(num1, num2) { // eslint-disable-next-line one-var let r1 = 0, r2 = 0 try { r1 = (num1.toString().split('.')[1] || []).length } catch (e).
js浮点数加减乘除
风如白话的博客
01-06 747
js浮点数加减乘除算法
js中浮点数加减法异常(字符拼接,误差)的解决策略
weixin_34319374的博客
11-24 550
2019独角兽企业重金招聘Python工程师标准>>> ...
JS 小数运算出现误差的两种解决办法
浮沉半生的博客
05-28 8818
文章目录问题解决方案限制精确位数先将小数转化为整数，运算之后再重新转化为小数总结 本文介绍了解决 JS 中小数运算出现误差的两种解决办法 问题 在 JS 的小数运算中可能会出现一些问题，比如说下面两种情况： 0.1 + 0.2 加法出现精度偏差问题 0.14 * 100 乘法出现精度偏差问题 解决方案 下面简单介绍了两种常用的解决方案： 限制精确位数 可以限制保留几位小数的方式来避免误差：...
JS中浮点数的加减乘除
weixin_42262436的博客
06-29 890
//除法函数，用来得到精确的除法结果 function accDiv(arg1,arg2){ var t1=0,t2=0,r1,r2; try{t1=arg1.toString().split(".")[1].length}catch(e){} try{t2=arg2.toString().split(".")[1].length}catch(e){} with(M...
php float 和double,PHP float 浮点型数据类型
05-20
在 PHP 中，float 和 double 都是浮点型数据类型，它们用于存储小数值。float 和 double 的区别在于存储精度不同。float 只能精确存储小数点后 7 位，而 double 可以精确存储小数点后 14 位。 在 PHP 中，使用浮点型数据类型时需要注意一些问题。由于浮点数的存储方式，可能会出现一些小数运算的精度问题。例如： ```php $a = 0.1; $b = 0.2; $c = $a + $b; echo $c; // 输出结果为 0.30000000000000004 ``` 因此，在进行小数运算时，建议使用一些专门的函数来控制精度，如 `round()`、`ceil()`、`floor()` 等。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值