JS和XSLT里都有的数据计算问题.

在IE里写个JS脚本: alert((7.89*2.5).toFixed(2));
竟然弹出19.72, 而不是19.73

接着试了试: alert(7.89*2.5);   弹出19.72499999998. 而不是19.725
才知道原来是这样使得四舍五入至小数点后两位结果值成了19.72, 而不是19.73.

最后只好自己写了个函数代替toFixed函数:
function Round(a_Num , a_Bit) {
   return((Math.round(a_Num * Math.pow (10,a_Bit+8)) / Math.pow(10,a_Bit+8)).toFixed(a_Bit)); 
}   // 先乘上10的N+8次方(N是需要保留的小数点位数,用8等更大数字可以使得误差降至极低); 然后四舍五入到最接近的整数. 再除以10的N+8次方;最后就可以平安使用四舍五入函数了.

总算问题解决,差点因为相差一点点而亏大把钱

而这种计算问题发现同样在XSL里面都存在.可以使用同样思想解决.

 可以说是另一种BUG,不过解释引擎到底为什么会这样子做,还得去问微软

阅读更多
个人分类: Javascript
上一篇精装追MM总结版 (转载)
想对作者说点什么? 我来说一句

没有更多推荐了,返回首页

关闭
关闭
关闭