js精度问题
javascript,在计算小数的运算时,会存在精度问题,这跟计算机转二进制计算有关系。可以通过如下2种方案:
1)可以通过字符串,然后parseFloat计算也是可以(toFix控制精度)。
2)写一个公共的加减乘除的方法
/**
* javascript calc
*
* 描 述 : JS浮点计算BUG屏蔽
* 创建人 : 冷凝
* 创建日期 : 2012-12-21更新,解决触发部分BUG
*
*/
function accDiv(arg1, arg2) {
var t1 = 0, t2 = 0, t3 = 0, r1, r2;
try { t1 = arg1.toString().split(".")[1].length } catch (e) { }
try { t2 = arg2.toString().split(".")[1].length } catch (e) { }
r1 = Number(arg1.toString().replace(".", ""))
r2 = Number(arg2.toString().replace(".", ""))
if (r2 == 0)
return 0;
var result = String(r1 / r2);
try { t3 = result.toString().split(".")[1].length } catch (e) { }
var index = t2 - t1 - t3;
if (index < 0) {
result = result.replace(".", "");
while (result.length <= Math.abs(index)) {
result = '0' + result;
}
var start = result.substring(0, result.length + index);
var end = result.substring(result.length + index, result.length);
result = start + '.' + end;
return Number(result);
}
else if (index > 0) {
result = result.replace(".", "");
while (result.length <= Math.abs(index)) {
result += '0';
}
return Number(result);
}
else return Number(result.replace(".", ""));
}
//给Number类型增加一个div方法,调用起来更加方便。
Number.prototype.div = function (arg) {
/// <summary>
/// 除法
/// </summary>
return accDiv(this, arg);
}
function accMul(arg1, arg2) {
var m = 0, s1 = arg1.toString(), s2 = arg2.toString();
try { m += s1.split(".")[1].length } catch (e) { }
try { m += s2.split(".")[1].length } catch (e) { }
return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m)
}
Number.prototype.mul = function (arg) {
/// <summary>
/// 乘法
/// </summary>
return accMul(arg, this);
}
function accAdd(arg1, arg2) {
var r1, r2, m, c;
try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 }
try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 }
c = Math.abs(r1 - r2);
m = Math.pow(10, Math.max(r1, r2))
if (c > 0) {
var cm = Math.pow(10, c);
if (r1 > r2) {
arg1 = Number(arg1.toString().replace(".", ""));
arg2 = Number(arg2.toString().replace(".", "")) * cm;
}
else {
arg1 = Number(arg1.toString().replace(".", "")) * cm;
arg2 = Number(arg2.toString().replace(".", ""));
}
}
else {
arg1 = Number(arg1.toString().replace(".", ""));
arg2 = Number(arg2.toString().replace(".", ""));
}
return (arg1 + arg2) / m
}
Number.prototype.add = function (arg) {
/// <summary>
/// 加法
/// </summary>
return accAdd(arg, this);
}
java精度问题
java打运算可以通过BigDecimal(String),如下:
/**
* 用来 计算保证精度的两个数的和
*
* @param v1
* @param v2
* @return
*/
public static double add(double v1, double v2) {
BigDecimal b1 = new BigDecimal(Double.toString(v1));
BigDecimal b2 = new BigDecimal(Double.toString(v2));
return b1.add(b2).doubleValue();
}
/**
* 用来 计算保证精度的两个数的差
*
* @param v1
* @param v2
* @return
*/
public static double subtract(double v1, double v2) {
BigDecimal b1 = new BigDecimal(Double.toString(v1));
BigDecimal b2 = new BigDecimal(Double.toString(v2));
return b1.subtract(b2).doubleValue();
}
/**
* 用来 计算保证精度的两个数进行除法运算
* @param v1
* @param v2
* @param len 保留的精度
* @return
*/
public static double div(double v1, double v2,int len) {// 进行除法运算
BigDecimal b1 = new BigDecimal(v1);
BigDecimal b2 = new BigDecimal(v2);
return b1.divide(b2,len,BigDecimal.ROUND_HALF_UP).doubleValue();
}
/**
* 用来 计算保证精度的两个数的乘积
*
* @param v1
* @param v2
* @return
*/
public static double multiply(double v1, double v2) {
BigDecimal b1 = new BigDecimal(Double.toString(v1));
BigDecimal b2 = new BigDecimal(Double.toString(v2));
return b1.multiply(b2).doubleValue();
}