toFixed问题及解决方法

最新推荐文章于 2023-12-04 16:24:10 发布
最新推荐文章于 2023-12-04 16:24:10 发布
阅读量725 收藏 2
点赞数
分类专栏： JavaScript 文章标签： javaScript toFixed ViewUI

一.   toFixed问题

发现在chrome里面0.725.toFixed() = 0.72，在IE下是0.73。

 

二.   网上大牛解决方法

网上大牛重写Number的toFixed方法。

网址：http://stackoverflow.com/questions/10470810/javascript-tofixed-bug-in-ie6

Number.prototype.toFixed = function(n) {
    var power = Math.pow(10, n);
    var fixed = (Math.round(this * power) / power).toString();
    if(n == 0) return fixed;
    if(fixed.indexOf('.') < 0) fixed += '.';
    var padding = n + 1 - (fixed.length - fixed.indexOf('.'));
    for(var i = 0; i < padding; i++) fixed += '0';
    return fixed;
};

        0.725.toFixed(2)=0.73

       298561.7249999999999999.toFixed(2)=298561.72

       发现298561.725.toFixed(2)=298561.72还是不对。

 

三.   彻底解决方法

<html>  
<head></head>  
<script>  
/**   
* 浮点数乘法运算   
* @param {number} arg1 乘数   
 * @param {number} arg2 被乘数   
* @example   
 * Math.floatMul(11.1, 77.7)   
 * 其形式等同于 (11.1 * 77.7) 但不存在 JS 丢失精度的问题   
 * 如3.69 * 258.258   
 */   
Math.floatMul = function(arg1, arg2) {    
         var m=0, s1=arg1.toString(), s2=arg2.toString();
         if(s1.indexOf('.') != -1)
                   m += s1.split('.')[1].length;
         if(s2.indexOf('.') != -1)
                   m += s2.split('.')[1].length;
         return Number(s1.replace('.', '')) * Number(s2.replace('.', '')) / Math.pow(10, m);
};

/**   
* 浮点数除法运算   
* @param {number} arg1 除数   
 * @param {number} arg2 被除数   
* @example   
 * Math.floatDiv(11.1, 77.7)   
 * 其形式等同于 (11.1/77.7) 但不存在 JS 丢失精度的问题   
 * 如3.69 / 258.258
 */   
Math.floatDiv = function(arg1, arg2) {    
         var t1=0, t2=0, r1, r2, s1=arg1.toString(), s2=arg2.toString();    
         if(s1.indexOf('.') != -1)
                   t1 = s1.split('.')[1].length;
         if(s2.indexOf('.') != -1)
                   t2 = s2.split('.')[1].length;

         r1 = Number(s1.replace('.', ''));
         r2 = Number(s2.replace('.', ''));
         return (r1 / r2) / Math.pow(10, t1 - t2);
};
/**   
 * 浮点数加法运算      
 *   
 * @param {number} arg1 加数   
 * @param {number} arg2 被加数   
 *   
 * @example   
 * Math.floatAdd(11.1, 77.7)   
 * 其形式等同于 (11.1 + 77.7) 但不存在 JS 丢失精度的问题   
 * 如694.84 + (-300)   
 */   
Math.floatAdd = function(arg1, arg2) {      
    var r1, r2, m;      
    try{ r1 = arg1.toString().split(".")[1].length; } catch(e) { r1 = 0; }   
    try{ r2 = arg2.toString().split(".")[1].length; } catch(e) { r2 = 0; }   
    m = Math.pow(10, Math.max(r1, r2));   
    return ((arg1 * m) + (arg2 * m)) / m;   
};   

/**   
 * 浮点数减法运算      
 *   
 * @param {number} arg1 减数   
 * @param {number} arg2 被减数   
 *   
 * @example   
 * Math.floatSub(11.1, 77.7)   
 * 其形式等同于 (11.1 - 77.7) 但不存在 JS 丢失精度的问题   
 * 如694.84 - 300  
 */   
Math.floatSub = function(arg1, arg2) {   
         var r1, r2, m, n;   
         try{ r1 = arg1.toString().split('.')[1].length; } catch(e) { r1 = 0; }
         try{ r2 = arg2.toString().split('.')[1].length; } catch(e) { r2 = 0; }
         m = Math.pow(10, Math.max(r1, r2));   
         // use accurate one
         n = (r1 >= r2) ? r1 : r2;   
         return (((arg1 * m) - (arg2 * m)) / m).toFixed(n);   
};
//http://stackoverflow.com/questions/10470810/javascript-tofixed-bug-in-ie6
Number.prototype.toFixed = function(n) {
    var power = Math.pow(10, n);
    var fixed = (Math.round(Math.floatMul(this, power)) / power).toString();
    if (n == 0)
        return fixed;
    if (fixed.indexOf('.') < 0)
        fixed += '.';
    var padding = n + 1 - (fixed.length - fixed.indexOf('.'));
    for (var i = 0; i < padding; i++)
        fixed += '0';
    return fixed;
};

/**
 * 计算方法 
 */   
function calculate(){   
    var v1 = document.getElementById('txt1').value - 0;   
    var v2 = document.getElementById('txt2').value - 0;   
    var v = v1.toFixed(v2);   
    alert(v1 + '.toFixed(' + v2 + ') = ' + v);   
}
</script>
  
<body>  
    <div>
    	<span>原值：</span>
    	<input id="txt1" /><br/>  
    </div>
    <div>
    	<span>保留小数位数：</span>
    	<input id="txt2" value="2"/>
    </div>
    <input type="button" value="计算" οnclick="calculate()" />  
</body>  
</html>

       运行结果都OK。




    有问题的测试结果


    跟踪发现：

如下四种获取v1值的方法，298561.7249999999999999的结果都是298561.725

var v1 = parseFloat(document.getElementById('txt1').value);
var v1 = Number(document.getElementById('txt1').value);
var v1 = document.getElementById('txt1').value - 0;
var v1 = Math.floatAdd(document.getElementById('txt1').value,0);
wjxbj
关注
  • 0
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
直接用toFixed保留两位小数遇上的坑以及解决方法
weixin_45654407的博客
09-18 3166
参考链接： https://www.cnblogs.com/liyan-web/p/7788459.html 由此可见真正的问题源于二进制浮点数表示法并不能精准表示十进制分数！ function toFixed(number,fractionDigits){ var times = Math.pow(10, fractionDigits); var roundNum = Math.round(number * times) / times; return roundNum.toFi
js 关于 toFixed 问题的总结
Leon_940002463的博客
04-11 7875
toFixed 四舍五入问题 ， decimal.js解决精度问题 ，问题发现 及问题造成原因探寻
toFixed精度不准问题
zzzz121380的博客
11-11 3066
toFixed精度不准问题 首先toFixed并不是网上说的使用银行家舍入法（四舍五入，五看奇偶）原则 ​ 如想了解银行家舍入法，可见下面 1、问题描述： 测试以下例子可见：toFixed()不是四舍五入，也不是银行家舍入法，所得结果不准确，不是我们想要的 console.log(3.1349046546.toFixed(2)) // 3.13,当舍去位的数值 < 5时，直接舍去 console.log(3.1369046546.toFixed(2)) //3.
JS 四舍五入方法 和 toFixed()最全总结(包括toFixed()的坑以及四舍五入实现方法)
最新发布
weixin_44880202的博客
12-04 3867
最近在针对前端四舍五入做优化，前人是使用toFixed()来解决的，但客户发现有些数据并不是我们理解意义的四舍五入法。查阅资料得知，toFixed()实现的是银行家算法：即四舍六入五考虑，五后非零就进一，五后为零看奇偶，五前为偶应舍去，五前为奇要进一结果如下：可以发现，(1.88545000).toFixed(4)应该是符合”五前为偶应舍去“的规则，那结果应该为1.8854, 但结果却是1.8855，我不理解，但大受震撼。。。
JavaScript中的toFixed()精度问题以及解决方法
weixin_45224906的博客
12-29 933
JavaScript中的toFixed()精度问题以及解决方法
使用toFixed遇到的问题
菜鸟搬砖记
12-25 2890
在使用toFixed进行四舍五入的时候，我们有时候会遇到下面这种情况： let a = 1.595; let b = 1.5952 console.log(a.toFixed(2)); console.log(b.toFixed(2)); 输出结果： 1.59 //a 1.60 //b 从这里可以看出，当你要保留两位小数的时候，如果目前只有三位小数，则数据不准确，如果目...
JS中toFixed()方法引起的问题如何解决
10-27
为了应对这个问题，一种解决方案是自定义一个`toFixed()`方法，以确保它按照预期的方式进行四舍五入。以下是一个可能的实现： ```javascript Number.prototype.myRound = function(precision) { var factor = Math...
Javascript中 toFixed四舍六入方法
12-11
在JavaScript中，`toFixed()`方法是用来处理浮点数精度问题的一个关键工具，它遵循特定的舍入策略，即银行家舍入法。银行家舍入法是一种公平的舍入策略，旨在避免在大量数据处理中偏向某一边的舍入误差积累。在...
详解JavaScript中精度失准问题及解决方法
11-21
1. 使用`toFixed()`方法：此方法可以将数字四舍五入到指定的小数位数，然后返回一个字符串。例如，`num.toFixed(2)`将保留两位小数。需要注意的是，`toFixed()`返回的是字符串，如果需要继续进行数学运算，需要再次...
Javascript中toFixed计算错误(依赖银行家舍入法的缺陷)解决方法
10-19
主要介绍了Javascript中toFixed计算错误(依赖银行家舍入法的缺陷)解决方法，非常具有实用价值，需要的朋友可以参考下
微信小程序部分手机不支持toFixed，导致页面加载不出来
weixin_42538868的博客
07-29 489
可以使用 Math.round(num * 100) / 100保留两位小数
JS你所不知的小数取整方法
YogurtQ的博客
09-15 1431
js中波浪线运算符"~“的作用是将数字转化为有符号32位整数并作位取反, 位取反即把数字转换为2进制补码然后把0和1反转. 对一个数字取反2次会变成原来的数字, 于是双波浪线的作用就是把一个小数舍弃小数点转换为整数, 在数字较小转换为32位整数时不会溢出的情况下可以当作Math.floor的偷懒写法. 不过更一般的写法是"num | 0”, 即位或0, 在位运算上不会改变数字但可以快速的转换为整数...
js中toFixed() 的用法
whaxrl的专栏
02-15 9176
一、定义和用法 toFixed() 方法可把 Number 四舍五入为指定小数位数的数字。 语法 NumberObject.toFixed(num) 参       数 描述 num 必需。规定小数的位数，是 0 ~ 20 之间的值，包括 0 和 20，有些实现可以支持更大的数值范围。如果省略了该参数，将用 0 代替。 返回值 返回 N
js中的 t.toFixed(0) 意思
weixin_35754962的博客
01-10 749
在 JavaScript 中，t.toFixed(0) 意思是将数字 t 转换为字符串，并对小数点后的数字进行四舍五入，保留 0 位小数。例如： let t = 3.14159; console.log(t.toFixed(0)); // 输出 "3" 注意，toFixed 方法返回的是字符串，因此如果你想对结果进行数学运算，你需要先将结果转换为数字。例如： let t = 3.14159; ...
toFixed方法舎入不精确问题解决
weixin_50004969的博客
12-03 699
问题：在使用tofixed对7.7245进行按四舍五入保留三位小数是，保留得到的结果为7.724 原因分析：tofixed方法的舎入和数学中“四舍五入”的舎入规则是不一样的，它实际上采用的是“四舍六入五取偶（四舍六入五留双）’的舎入规则，也就是所谓的银行家舎入规则 （银行家舎入规则：四舍六入五考虑，五后非零就进一，五后为零看奇偶，五前为偶应舍去，五前为奇要进一） 解决方法： //修正toFixed精度问题 toFixed(number,fractionDigits){//number为..
toFixed精度问题
baby_lx的博客
07-12 863
toFixed精度问题
toFixed奇葩问题
weixin_30414635的博客
08-23 360
1.浮点数运算后的精度问题 　　在计算商品价格加减乘除时，偶尔会出现精度问题 // 加法 ===================== 0.1 + 0.2 = 0.30000000000000004 0.7 + 0.1 = 0.7999999999999999 0.2 + 0.4 = 0.6000000000000001 // 减法 ===================== ...
【JS】toFixed不精准问题的解决办法
qing_小诺的博客
08-14 7731
不经意之间发现我一直在用的toFixed方法竟然有问题，我竟然糊涂的用它做了很多事！以下是我在chrome上的结果： console.log(1.35.toFixed(1)); // 1.4 正确 console.log(1.335.toFixed(2));//1.33 错误 console.log(1.3335.toFixed(3));//1.33 错误 console.log(1.333...
js处理小数 ， toFixed()的潜在问题
热门推荐
zhouchao001的博客
12-13 2万+
一、toFixed能做什么？ 以下是摘自网络的toFixed的介绍： toFixed 方法： 返回一个字符串，代表一个以定点表示法表示的数字。 numObj.toFixed([fractionDigits]) 参数 numObj 必选项。一个 Number 对象。 fractionDigits 可选项。小数点后的数字位数。其值必须在 0 – 20 之间，包括 0 和 20。 说明 t
js toFixed损失精度解决办法
11-30
2.重写toFixed()方法，通过修改原型链上的方法来解决精度损失的问题。具体实现方法如下： ```javascript // 重写toFixed()方法 Number.prototype.toFixed = function(n) { var power = Math.pow(10, n || 0); var...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值