解决js浮点数的加法精度错误

最新推荐文章于 2022-12-08 11:47:10 发布

linhav

最新推荐文章于 2022-12-08 11:47:10 发布

阅读量241

点赞数

文章标签： EXT

[size=x-large]被[/size]提了一个Bug单，表征为在Grid的合计栏中，319.57+500=819.569999999999999。查了一下，应该是js的浮点数相加的精度有问题。修改代码如下：


//解决js浮点数的加法精度错误
function FloatAdd(arg1,arg2){
    var r1,r2,m;
    try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
    try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
    m=Math.pow(10,Math.max(r1,r2))
    return (arg1*m+arg2*m)/m
}

Ext.ux.grid.GridSummary.Calculations = {
  'sum' : function(v, record, field) {
    return FloatAdd(v,Ext.num(record.data[field], 0));
  },