javascript浮点数计算的问题

最新推荐文章于 2024-09-19 17:56:32 发布

weixin_30262255

最新推荐文章于 2024-09-19 17:56:32 发布

阅读量56

点赞数

文章标签： javascript ViewUI

原文链接：http://www.cnblogs.com/wwwj/p/3807449.html

版权

　　在使用javascript进行浮点数计算的时候经常会出现各种怪异的问题，

比如7*0.4 js计算结果为：2.8000000000000003。

　　所以在使用js计算的时候就需要一些特殊处理，思路就是先把js中的数

值扩大到相应的倍数，去掉小数部分再进行计算。

var SysRf = SysRf || {};
SysRf.strNum = {};
//浮点数加法运算
SysRf.strNum.add = function(arg1, arg2) {  
   var r1,r2,m;  
   try{r1=arg1.toString().split('.')[1].length}catch(e){r1=0};  
   try{r2=arg2.toString().split('.')[1].length}catch(e){r2=0};  
   m=Math.pow(10,Math.max(r1,r2));  
   return (arg1*m+arg2*m)/m;

};
//浮点数乘法运算
SysRf.strNum.mul = function(arg1, arg2) {
    var m = 0, s1 = arg1 + '', s2 = arg2 + '';
    try { m += s1.split('.')[1].length } catch (e) { };
    try { m += s2.split('.')[1].length } catch (e) { };
    return parseInt(s1.replace('.', '')) * parseInt(s2.replace('.', '')) / Math.pow(10, m);
};
//浮点数除法运算
SysRf.strNum.div = function(arg1, arg2) {
    var t1 = 0, t2 = 0, r1, r2;
    try { t1 = arg1.toString().split('.')[1].length } catch (e) { }
    try { t2 = arg2.toString().split('.')[1].length } catch (e) { }
    with (Math) {
        r1 = Number(arg1.toString().replace('.', ''))
        r2 = Number(arg2.toString().replace('.', ''))
        return (r1 / r2) * pow(10, t2 - t1);
    }
}
//浮点数减法运算
SysRf.strNum.sub = function(arg1, arg2) {
    var r1, r2, m, n;
    try { r1 = arg1.toString().split('.')[1].length } catch (e) { r1 = 0 }
    try { r2 = arg2.toString().split('.')[1].length } catch (e) { r2 = 0 }
    m = Math.pow(10, Math.max(r1, r2));
    //动态控制精度长度  
    n = (r1 >= r2) ? r1 : r2;
    return ((arg1 * m - arg2 * m) / m).toFixed(n);
};