为什么计算机中计算小数通常表达不精确

问题是这样的

7d1f601ecb2c4e848e34a78361504c27.png

当我们计算这样一个小数运算过程的时候,结果和我们想的,不太一样 
那么为什么结果不是0.22 而是上面这样子呢?

​​​​​​​

 

首先结果与计算机的存储数据原理有关,由于计算机的物理特性导致它使用二进制运算。

而程序中的十进制小数先转换成为二进制,再进行计算。

Float和Double的小数部分在转换为二进制的时候容易产生无限循环的情况,

通常都是取无限接近于原值的近似值,所以导致出现了精度丢失的情况。

那是如何出现无限循环的情况的呢?

首先因为计算机不可能提供无限的空间让程序去存储这些二进制小数。

所以它需要规定长度, 在Java 中, 提供了两种方式: float 和double , 分别是32位和64位。

例如:有个浮点型double a = 0.1, double b =0.2,a+b=?;

0.1是一个十进制的小数,要转换为二进制;

0.1转化成二进制的算法:

0.1*2=0.2======取出整数部分0

0.2*2=0.4======取出整数部分0

0.4*2=0.8======取出整数部分0

0.8*2=1.6======取出整数部分1

0.6*2=1.2======取出整数部分1

0.2*2=0.4======取出整数部分0

0.4*2=0.8======取出整数部分0

0.8*2=1.6======取出整数部分1

0.6*2=1.2======取出整数部分1

接下来会无限循环

0.2*2=0.4======取出整数部分0

0.4*2=0.8======取出整数部分0

0.8*2=1.6======取出整数部分1

0.6*2=1.2======取出整数部分1

所以0.1转化成二进制是:0.0 0011 0011 ......

0.2转化成二进制的算法:

0.2*2=0.4======取出整数部分0

0.4*2=0.8======取出整数部分0

0.8*2=1.6======取出整数部分1

0.6*2=1.2======取出整数部分1

0.2*2=0.4======取出整数部分0

0.4*2=0.8======取出整数部分0

0.8*2=1.6======取出整数部分1

0.6*2=1.2======取出整数部分1

接下来会无限循环

0.2*2=0.4======取出整数部分0

0.4*2=0.8======取出整数部分0

0.8*2=1.6======取出整数部分1

0.6*2=1.2======取出整数部分1

所以0.2转化成二进制是:0.0 011 0011 ......

a+b=0.0 0011 0011 ......+0.0 0110 0110 ......

=0.0 1001 1001(二进制)

= 0.30000000000000004(十进制)

就像这样的为了将十进制转码为二进制的过程导致了不可避免的无限循环的出现,接着就是精度的丢失。

因此在金融、工程、科学等领域,对计算的数值精度要求较高时,为了避免精度结果计算不准确,往往采用BigDecimal+字符串的方式来解决 精度丢失的问题。
 

  • 2
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值