js,java小数计算精度问题

js精度问题

javascript,在计算小数的运算时,会存在精度问题,这跟计算机转二进制计算有关系。可以通过如下2种方案:

1)可以通过字符串,然后parseFloat计算也是可以(toFix控制精度)。

2)写一个公共的加减乘除的方法

/**
* javascript calc
* 
* 描  述   :  JS浮点计算BUG屏蔽
* 创建人   :  冷凝
* 创建日期 :  2012-12-21更新,解决触发部分BUG
* 
*/

function accDiv(arg1, arg2) {

    var t1 = 0, t2 = 0, t3 = 0, r1, r2;

    try { t1 = arg1.toString().split(".")[1].length } catch (e) { }

    try { t2 = arg2.toString().split(".")[1].length } catch (e) { }

    r1 = Number(arg1.toString().replace(".", ""))

    r2 = Number(arg2.toString().replace(".", ""))

    if (r2 == 0)
        return 0;

    var result = String(r1 / r2);

    try { t3 = result.toString().split(".")[1].length } catch (e) { }

    var index = t2 - t1 - t3;

    if (index < 0) {
        result = result.replace(".", "");

        while (result.length <= Math.abs(index)) {
            result = '0' + result;
        }

        var start = result.substring(0, result.length + index);
        var end = result.substring(result.length + index, result.length);

        result = start + '.' + end;

        return Number(result);
    }
    else if (index > 0) {
        result = result.replace(".", "");

        while (result.length <= Math.abs(index)) {
            result += '0';
        }
        return Number(result);
    }
    else return Number(result.replace(".", ""));

}


//给Number类型增加一个div方法,调用起来更加方便。

Number.prototype.div = function (arg) {
    ///	<summary>
    ///	    除法
    ///	</summary>
    return accDiv(this, arg);

}
function accMul(arg1, arg2) {

    var m = 0, s1 = arg1.toString(), s2 = arg2.toString();

    try { m += s1.split(".")[1].length } catch (e) { }

    try { m += s2.split(".")[1].length } catch (e) { }

    return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m)

}

Number.prototype.mul = function (arg) {
    ///	<summary>
    ///	    乘法
    ///	</summary>
    return accMul(arg, this);

}

function accAdd(arg1, arg2) {

    var r1, r2, m, c;

    try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 }

    try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 }

    c = Math.abs(r1 - r2);
    m = Math.pow(10, Math.max(r1, r2))
    if (c > 0) {
        var cm = Math.pow(10, c);
        if (r1 > r2) {
            arg1 = Number(arg1.toString().replace(".", ""));
            arg2 = Number(arg2.toString().replace(".", "")) * cm;
        }
        else {
            arg1 = Number(arg1.toString().replace(".", "")) * cm;
            arg2 = Number(arg2.toString().replace(".", ""));
        }
    }
    else {
        arg1 = Number(arg1.toString().replace(".", ""));
        arg2 = Number(arg2.toString().replace(".", ""));
    }
    return (arg1 + arg2) / m

}

Number.prototype.add = function (arg) {
    ///	<summary>
    ///	    加法
    ///	</summary>
    return accAdd(arg, this);

}

java精度问题

java打运算可以通过BigDecimal(String),如下:

/**
	 * 用来 计算保证精度的两个数的和
	 * 
	 * @param v1
	 * @param v2
	 * @return
	 */
	public static double add(double v1, double v2) {
		BigDecimal b1 = new BigDecimal(Double.toString(v1));
		BigDecimal b2 = new BigDecimal(Double.toString(v2));
		return b1.add(b2).doubleValue();
	}

	/**
	 * 用来 计算保证精度的两个数的差
	 * 
	 * @param v1
	 * @param v2
	 * @return
	 */
	public static double subtract(double v1, double v2) {
		BigDecimal b1 = new BigDecimal(Double.toString(v1));
		BigDecimal b2 = new BigDecimal(Double.toString(v2));
		return b1.subtract(b2).doubleValue();
	}
	/**
	 * 用来 计算保证精度的两个数进行除法运算
	 * @param v1
	 * @param v2
	 * @param len   保留的精度
	 * @return
	 */
	public static double div(double v1, double v2,int len) {// 进行除法运算 
		 BigDecimal b1 = new BigDecimal(v1);  
		 BigDecimal b2 = new BigDecimal(v2);  
		 return b1.divide(b2,len,BigDecimal.ROUND_HALF_UP).doubleValue();  
	}  
    
    /**
     * 用来 计算保证精度的两个数的乘积
     * 
     * @param v1
     * @param v2
     * @return
     */
    public static double multiply(double v1, double v2) {
        BigDecimal b1 = new BigDecimal(Double.toString(v1));
        BigDecimal b2 = new BigDecimal(Double.toString(v2));
        return b1.multiply(b2).doubleValue();
    }


  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值