oracle 浮点数精度,浮点数精度计算 - Chason-洪的个人空间 - OSCHINA - 中文开源技术交流社区...

var util = {

padding0: function (p) {

var z = ''

while (p--) {

z += '0'

}

return z

},

/**

* 解决小数精度问题

* @param {*数字} a

* @param {*数字} b

* @param {*符号} sign

* fixedFloat(0.3, 0.2, '-')

*/

fixedFloat: function (a, b, sign) {

function handle(x) {

var y = String(x)

var p = y.lastIndexOf('.')

if (p === -1) {

return [y, 0]

} else {

return [y.replace('.', ''), y.length - p - 1]

}

}

// v 操作数1, w 操作数2, s 操作符, t 精度

function operate(v, w, s, t) {

switch (s) {

case '+': return (v + w) / t

case '-': return (v - w) / t

case '*': return (v * w) / (t * t)

case '/': return (v / w)

}

}

var c = handle(a)

var d = handle(b)

var k = 0

if (c[1] === 0 && d[1] === 0) {

return operate(+c[0], +d[0], sign, 1)

} else {

k = Math.pow(10, Math.max(c[1], d[1]))

if (c[1] !== d[1]) {

if (c[1] > d[1]) {

d[0] += this.padding0(c[1] - d[1])

} else {

c[0] += this.padding0(d[1] - c[1])

}

}

return operate(+c[0], +d[0], sign, k)

}

}

};

module.exports=util;