浮点数精度丢失问题

为何浮点数可能丢失精度

浮点十进制值通常没有完全相同的二进制表示形式。 这是 CPU 所采用的浮点数据表示形式的副作用。为此,可能会经历一些精度丢失,并且一些浮点运算可能会产生意外的结果。

浮点数精度丢失原因

  • 十进制数的二进制表示形式可能不精确。
  • 使用的数字之间类型不匹配(例如,混合使用浮点型和双精度型)

如何解决浮点数精度丢失问题

首先一个精度丢失的例子
在这里插入图片描述为了能精确的表示、计算浮点数,Java提供了BigDecimal类,该类提供了大量的构造器用于创建BigDecimal对象,包括把所有的基本类型转换层一个BigDecimal对象,也包括利用数字字符串、数字字符数组来创建BigDecimal对象。
双精度浮点型变量 double 可以处理 16 位有效数。在实际应用中,需要对更大或者更小的数进行运算和处理。 Java 在 java.math 包中提 供的 API 类 BigDecimal ,用来对超过 16 位有效位的数进行精确的运算。

BigDecimal构造器和方法

  1. 构造器
    BigDecimal(int) 创建一个具有参数所指定整数值的对象。
    BigDecimal(double) 创建一个具有参数所指定双精度值的对象。
    BigDecimal(long) 创建一个具有参数所指定长整数值的对象。
    BigDecimal(String) 创建一个具有参数所指定以字符串表示的数值的对象。
  2. 方法
    add(BigDecimal)BigDecimal 对象中的值相加,然后返回这个对象。
    subtract(BigDecimal)BigDecimal 对象中的值相减,然后返回这个对象。
    multiply(BigDecimal)BigDecimal 对象中的值相乘,然后返回这个对象。
    divide(BigDecimal)BigDecimal 对象中的值相除,然后返回这个对象。
    toString() 将 BigDecimal 对象的数值转换成字符串。
    doubleValue() 将 BigDecimal 对象中的值以双精度数返回。

在这里插入图片描述在这里插入图片描述BigDecimal进行算术运算的效果,而且,在创建BigDecimal对象时,一定要使用String对象作为构造器参数

JS浮点数精度丢失

console.log(0.1+0.2===0.3);//false

console.log(0.1+0.1===0.2);//true

精度丢失产生原因

我们首先就想到计算机能读懂的是二进制,所以我们进行运算的时候,实际上是把数字转换为了二进制进行的,所以我们把0.1和0.2转换为二进制:
0.1 => 0.0001 1001 1001 1001…(无限循环)
0.2 => 0.0011 0011 0011 0011…(无限循环)
这里可以看出转换为二进制是一个无限循环的数字,单在计算机中对于无限循环的数字会进行舍入处理的,进行双精度浮点数的小数部分最多支持52位。然后把两个2进制的数进行运算得出的也是一个二进制数值,最后再把它转换为十进制。保留17位小数,所以0.1+0.2的值就成了 0.30000000000000004。 0.1+0.1的值成了0.20000000000000000,全是0的时候可以省略,就成了0.2

解决方法

最简单的处理,通过toFixed方法,
console.log(parseFloat(0.1+0.2).toFixed(1));//输出0.3
说明:通过toFixed(num)方法来保留小数,其中num为保留小数的位数,这个方法是根据四舍五入来保留小数的,所以计算的结果并不是最精确的。所以我们需要采用其它方法来实现,通过Number.prototype的属性进行添加。

//加法函数

function accAdd(arg1, arg2) {

       var r1, r2, m;

       try {

              r1 = arg1.toString().split(".")[1].length;

       } catch(e) {

              r1 = 0;

       }

       try {

              r2 = arg2.toString().split(".")[1].length;

       }catch(e){

              r2 = 0;

       }

       m = Math.pow(10, Math.max(r1, r2));

       return(arg1 * m + arg2 * m) / m;

} //给Number类型增加一个add方法,使用时直接用 .add 即可完成计算。  

Number.prototype.add = function(arg){     

       return accAdd(arg, this); 

};

console.log(0.1.add(0.2).add(0.3));//等价于0.1+0.2+0.3,输出0.6

console.log(0.1+0.2+0.3);//输出0.6000000000000001
  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值