js处理科学计数法

js处理科学计数法

使用js自带的Number函数就可以

使用Number.toFixed

 cellValue = 4.0E-12
  cellValue = Number(cellValue).toFixed(precision);
  输出:以下是再chrom的调试模式下的console里面的输出
  Number(4.0e-12).toFixed(12)
 "0.0000000000004" 
   如果有指定的精度precision,则直接使用
   如果没用指定的精度,就想显示全部则可以把E后面的数字提取出来就可以了
   precision=parseInt(cell.substring(cell.toLowerCase().indexOf('e') + 2))
   因为存在4.0E-12和4.0E+12,就是e前面可能是+ /- , 如果是e+12大于小数点之后的位数则应该是一个正整数,否则是一个小数,所以这里需要再进行一次格式化,判断是一个小数或者是一个整数,最简单的方式就是使用
   parseInt(cell)==parseFloat(cell),如果相等则是整数,否则是小数
   如果想要根据cellValue的值,在小数点后几位的话,这里有一个函数

自适应精度

/**
 *  @author zgli
 * @param precision 默认的最大精度
 *  添加对数字格式化,如果小数点后面有值,
 *  则按照精度处理,没有则去掉多余 0
 *  */
function f(cellValue, precision) {
    /* 添加对数字格式化,如果小数点后面有值,则按照精度处理,没有则去掉0*/
    cellValue = Number(cellValue).toFixed(precision);
    var array = cellValue.toString().split(".");
    var index=-1;
    if(array.length>1){
        for(var i = 0;i<array[1].length && i<precision;i++) {
            if (array[1].charAt(i) != "0") {
                index=i+1;
            }
        }
    }
    if(index!=-1){
        cellValue = Number(cellValue).toFixed(index);
    }else{
        cellValue = parseInt(cellValue);
    }
    return cellValue;
};
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值