JS和XSLT里都有的数据计算问题.

博客指出在IE中使用JS脚本进行四舍五入计算时出现结果偏差,如7.89*2.5四舍五入保留两位小数结果异常。作者编写了替代toFixed的函数解决问题,还提到XSL里也存在同样计算问题,可用相同思路解决,解释引擎原因待问微软。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

在IE里写个JS脚本: alert((7.89*2.5).toFixed(2));
竟然弹出19.72, 而不是19.73

接着试了试: alert(7.89*2.5);   弹出19.72499999998. 而不是19.725
才知道原来是这样使得四舍五入至小数点后两位结果值成了19.72, 而不是19.73.

最后只好自己写了个函数代替toFixed函数:
function Round(a_Num , a_Bit) {
   return((Math.round(a_Num * Math.pow (10,a_Bit+8)) / Math.pow(10,a_Bit+8)).toFixed(a_Bit)); 
}   // 先乘上10的N+8次方(N是需要保留的小数点位数,用8等更大数字可以使得误差降至极低); 然后四舍五入到最接近的整数. 再除以10的N+8次方;最后就可以平安使用四舍五入函数了.

总算问题解决,差点因为相差一点点而亏大把钱

而这种计算问题发现同样在XSL里面都存在.可以使用同样思想解决.

 可以说是另一种BUG,不过解释引擎到底为什么会这样子做,还得去问微软

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值