原创  JS和XSLT里都有的数据计算问题. 收藏

在IE里写个JS脚本: alert((7.89*2.5).toFixed(2));
竟然弹出19.72, 而不是19.73

接着试了试: alert(7.89*2.5);   弹出19.72499999998. 而不是19.725
才知道原来是这样使得四舍五入至小数点后两位结果值成了19.72, 而不是19.73.

最后只好自己写了个函数代替toFixed函数:
function Round(a_Num , a_Bit) {
   return((Math.round(a_Num * Math.pow (10,a_Bit+8)) / Math.pow(10,a_Bit+8)).toFixed(a_Bit)); 
}   // 先乘上10的N+8次方(N是需要保留的小数点位数,用8等更大数字可以使得误差降至极低); 然后四舍五入到最接近的整数. 再除以10的N+8次方;最后就可以平安使用四舍五入函数了.

总算问题解决,差点因为相差一点点而亏大把钱

而这种计算问题发现同样在XSL里面都存在.可以使用同样思想解决.

 可以说是另一种BUG,不过解释引擎到底为什么会这样子做,还得去问微软

发表于 @ 2005年05月25日 17:25:00 | 评论( loading... ) | 编辑| 举报| 收藏

旧一篇:精装追MM总结版 (转载) | 新一篇:--*@*-- 网络兼职赚钱,做SOHO一族 --*@*--

  • 发表评论
  • 评论内容:
  •  
Copyright © colee
Powered by CSDN Blog