Javascript中浮点数乘法溢出解决方案

已于 2022-04-01 15:35:26 修改
阅读量2.4k 收藏
点赞数 1
分类专栏： JavaScript 文章标签： 小程序 小程序框架选型 小程序用原生还是框架
于 2022-04-01 15:34:21 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/fairyier/article/details/123899162
版权
本文探讨了JavaScript中浮点数进行加减乘除时可能出现的精度问题，并提供了一个巧妙的乘法解决方案：将浮点数转换为整数，通过计算位数和乘以10的幂来避免溢出，最后再除以相应倍数以得到准确结果。其他运算也可类似处理。
摘要由CSDN通过智能技术生成

Javascript中的浮点数的加减乘除是个很有意思的事情，基本都会出现溢出的情况。解决的思路基本都是：将浮点数变为整数，运算完再除以相应的倍数。

以下举例一个乘法的解决方案：
浮点数相乘有很多方式，下面是我给出的一个我自己认为不错的解决方案：

// An highlighted block
function FxF(f1, f2) {
   
    f1 += '';
    f2 += '';
    var f1Len = f1.
最低0.47元/天 解锁文章
fairyIer
关注
专栏目录
如何避开JavaScript浮点数计算精度问题（如0.1+0.2!==0.3）
清风的博客
01-31 3万+
不知道大家在使用JS的过程中有没有发现某些浮点数运算的时候，得到的结果存在精度问题：比如0.1 + 0.2 = 0.30000000000000004以及7 * 0.8 = 5.6000000000000005等等。 究竟是什么原因造成了这个问题？实际上是因为计算机内部的信息都是由二进制方式表示的，即0和1组成的各种编码，但由于某些浮点数没办法用二进制准确的表示出来，也就带来了一系列精度
js浮点数乘除法
weixin_30412013的博客
07-12 913
JS在处理浮点数计算时经常会遇到精度的问题，上一篇博客封装了JS浮点数加减法的方法，这一次来封装一下js浮点数乘除法运算。 其实浮点除法的封装跟加减法的封装原理是一样，只是在第一次计算完后会再复位小数位数的时候稍微会复杂一点。 加法运算在第一次清除小数点计算后，根据小数位数的最大值可以知道计算后的结果应该再复位多少位小数。 而乘除法运算得分二种情况： 乘法运算时，二个数去掉小数点...
大数计算器，用计算机实现以整形、浮点型等类型进行数据计算溢出的问题
06-08
大数计算器，用计算机实现以整形、浮点型等类型进行数据计算溢出的问题
JavaScript中的浮点数溢出情况处理。
Draco
12-09 3737
说明： 今天在做数据计算的时候出现这样的情况，11.1+13.2 在JavaScript中出现的结果，是24.3000000000000004，一直很很是纳闷了，Google了下，原来是二进制的浮点数不能正确的处理十进制的小数，导致了出现浮点数溢出了。 使用通过先乘以10或者100 ,去掉的小数点，转成整数，然后再做相加、在做一个除以100或者10，这样就Ok了。
浮点数计算溢出处理问题、浮点数1.#INF和1.#IND 问题
奋斗的你
08-09 6063
 昨天遇到了一个关于浮点数计算溢出处理的问题，本来想用 if 语句把条件写好。可是遇到了很多困难，上网搜了一下，发现一个解决办法：if 语句把条件写好可以，但是如果遇到幂函数pow(x,y)时，问题就不那么简单了。仔细分析将发现：               y    x  
整数转浮点数精度溢出的原因和处理方式
S_o_l_o_n的博客
06-01 3935
对于64位浮点数来说，其尾数有53位（包含首位的隐藏位），当一个整数转为浮点数时，只有当该整数的二进制位数不超过53位时，64位浮点数才可以精确的表示该整数，不然会造成精度丢失。试想一下，当一个十进制整数的二进制有54位，那么最后一位无法准确储存，64位浮点数就会造成精度的丢失，自然地，当位数超过53位后，64位浮点数的可表示整数并不是连续的。 在笔者的这篇文章《浮点数的各种最值推算以及对python sys.float_info的解释》中，讲过浮点数能在该范围内精确表示的最大...
JS浮点计算问题
addegofly20150117的博客
08-06 146
问题 用js进行浮点数计算，结果可能会“超出预期”，大部分计算结果还是对的，但是我们可不想在计算这么严谨的事情上还有意外的惊喜。比如： 0.3 + 0.6 = 0.8999999999999999 0.3 - 0.2 = 0.09999999999999998 0.3 * 1.5 = 0.44999999999999996 0.3 / 0.1 = 2.99999999999...
【堆栈溢出终结者】：JavaScript中的溢出问题分析与解决
[【堆栈溢出终结者】：JavaScript中的溢出问题分析与解决](https://i0.wp.com/blog.nashtechglobal.com/wp-content/uploads/2023/08/download-3.png?fit=1024%2C538&ssl=1) # 1. JavaScript中溢出问题概述 ## 1.1 ...
js浮点数处理转精确值
05-26
在JavaScript中，浮点数处理是一项常见的任务，但由于浮点数在计算机中的表示方式，可能会导致计算结果不精确。这通常归因于二进制浮点数表示的局限性。本篇文章将深入探讨如何在JavaScript中处理浮点数，确保得到...
为什么浮点数运算的时候会有精度丢失的风险？
最新发布
m0_56653160的博客
07-23 677
浮点数运算精度丢失是常见，特别是在使用像JavaScript这样的语言时，因为它使用IEEE 754标准来表示浮点数。在这个示例中，我们尝试将0.1和0.2相加，但结果并不是预期的0.3，而是。同样，0.7减去0.1的结果也不是预期的0.8，而是。这些精度问题是由于浮点数在计算机中的表示方式导致的。另外，还有一个直接比较浮点数时可能遇到的问题，所以要提供了一个使用误差范围来比较浮点数的函数。这个函数通过比较两个数的差的绝对值是否小于一个很小的数（epsilon）来判断它们是否“相等”。
javascript中的数字溢出
2301_80448468的博客
04-04 231
关于数字溢出的问题，JavaScript中的数字类型是64位浮点数，可以表示的整数范围是从-2^53到2^53之间（不包括两个端点）。超出这个范围的整数将无法精确表示，可能会导致溢出或失去精度。如果需要处理超出范围的大整数，可以使用第三方库，如BigInt.js或BigNumber.js来进行处理。这些库提供了对大整数的支持，可以进行精确的计算和操作。在JavaScript中，可以使用`Array.from()`方法将数字转换为数组。该方法接受一个类似数组的对象或可迭代对象，并返回一个新的数组。
浮点数溢出
热门推荐
qz的博客
08-12 2万+
1. 问题 什么是浮点数的溢出？什么情况下发生上溢出？什么情况下发生下溢出？ 2. 解析 浮点数的运算结果可能出现一下四种情况： 阶码上溢出 阶码下溢出 尾数溢出 非规格化尾数 首先，阶码上溢出。正指数（即阶码值）超过了最大允许值。比如阶码用8bit移码表示，正指数却有128,即无法表示（8bit移码中真值表示范围为-126～127,-127的阶码全0表示非规格化数;而-128的阶码全1,表示无穷大）即上溢出。 如果结果为整数，则称为正上溢出;如果结果为负数，则称为负上溢出。这种情况为软件故障，需要
Javascript注意事项一【防止浮点数溢出】
02-01 157
num = 0.1+0.2; //0.30000000000000004 a = (1+2)/10; //0.3（浮点数中的整数运算时精确的） 转载于:https://www.cnblogs.com/luoxiaolei/p/4266548.html
javascript小数乘法溢出、精确率问题 toFixed(2)完美解决
web爱好者 专栏
07-23 8173
做前端页面开发的经常会遇到数值的乘法计算，带小数位计算会出现值溢出的问题，如： 100 JS里做小数的乘法运算时会出现浮点错误，具体可以测试一下： alert(11*22.9) 结果是251.89999999999998 而不是251.9 这个问题想必有很多人为之头痛。那么如何解决呢？ 网上那些经常转载来，转载去的解决方式，其实都存在弊端，先看看网上那种弊端的解决方式吧。
JS处理小数相加出现溢出的问题
CSDN_Hss的博客
02-28 1460
1、首先呈现一下问题（可能是因为二进制计算溢出导致的）: let a = 0.08 let b = 0.12 let c = 0.04 let sum = a + b + c // 结果为 0.24000000000000002 2、解决办法：将小数转换为整数进行计算 计算后结果除以转换的倍数。 (a * 1000 + b * 1000 + c * 1000) / 1000 // 结果为0.24 ......
关于js计算避免出现的浮点数个人总结
qq_36453396的博客
04-06 808
1 直接截取方法，保留2位小数 function toFixedTwo(abg) { return Number(abg).toFixed(2); }; 2 数字相加去除浮点数方法 function moneyReset(NumberTotal, CarPreAuthFee) { var str = ((Number(NumberTotal) +
js中浮点数的问题
(づ｡◕‿‿◕｡)づgigi奋斗在前端和刷题中╮(╯﹏╰)╭
03-04 446
js采用IEEE-745浮点数表示法，这是一种二进制表示法。但是有许多小数用二进制来表示是无限循环的，因此js中64位的存储并不能很精确地表示一些小数。就会导致如下情况：0.1+0.2 === 0.3; //false那么如何来判断上述式子为true呢？ 最常见的方法是设置一个误差范围值，通常称为机器精度。对js的数字来说，这个值通常是2^-52.从ES6开始，这个值被定义在Number.EPS
JavaScript 小数与整数相乘后小数点后面多出很多位
hanjiale3的博客
03-06 4339
记一次js遇到的bug–小数与整数相乘后小数点后面多出很多位 今天写前端js代码，数量乘以单价等于金额，其中数量是整数，单价是浮点数，在输入数量是11，单价是22.9的时候，金额变成了251.899998，很明显结果有问题，查了一下，发现是js的浮点运算的bug，可以用**toFixed（2）**来进行约束，也可以先单价和数量各乘以100,相乘，再除以10000，我的代码是下面的， var len...
JavaScript浮点数运算误差解析与解决方案
在JavaScript中，浮点数运算的精度问题是一个常见的编程挑战，这源于JavaScript内部使用了IEEE 754标准的64位双精度浮点数格式来存储和处理数字。本文将深入探讨这个问题，以及它为何会出现，并提供一些理解和应对...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值