js中的toFixed精度问题

javascript中toFixed使用的是银行家舍入规则。

据说大部分的编程软件都使用的是这种方法,也算是一种国际标准。所谓银行家舍入法,其实质是一种四舍六入五取偶(又称四舍六入五留双)法。其规则是:当舍去位的数值小于5时,直接舍去该位;当舍去位的数值大于等于6时,在舍去该位的同时向前位进一;当舍去位的数值等于5时,如果前位数值为奇,则在舍去该位的同时向前位进一,如果前位数值为偶,则直接舍去该位。

可以用一下方案解决:

 1  Number.prototype.toFixed = function(length)
 2         {
 3             var carry = 0; //存放进位标志
 4             var num,multiple; //num为原浮点数放大multiple倍后的数,multiple为10的length次方
 5             var str = this + ''; //将调用该方法的数字转为字符串
 6             var dot = str.indexOf("."); //找到小数点的位置
 7             if(str.substr(dot+length+1,1)>=5) carry=1; //找到要进行舍入的数的位置,手动判断是否大于等于5,满足条件进位标志置为1
 8             multiple = Math.pow(10,length); //设置浮点数要扩大的倍数
 9             num = Math.floor(this * multiple) + carry; //去掉舍入位后的所有数,然后加上我们的手动进位数
10             var result = num/multiple + ''; //将进位后的整数再缩小为原浮点数
11             /*
12             * 处理进位后无小数
13             */
14             dot = result.indexOf(".");
15             if(dot < 0){
16                 result += '.';
17                 dot = result.indexOf(".");
18             }
19             /*
20             * 处理多次进位
21             */
22             var len = result.length - (dot+1);
23             if(len < length){
24                 for(var i = 0; i < length - len; i++){
25                     result += 0;
26                 }
27             }
28             return result;
29         }

 

转载于:https://www.cnblogs.com/zhangdongBook/p/8654674.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值