为什么计算机中计算小数通常表达不精确

问题是这样的

7d1f601ecb2c4e848e34a78361504c27.png

当我们计算这样一个小数运算过程的时候,结果和我们想的,不太一样 
那么为什么结果不是0.22 而是上面这样子呢?

​​​​​​​

 

首先结果与计算机的存储数据原理有关,由于计算机的物理特性导致它使用二进制运算。

而程序中的十进制小数先转换成为二进制,再进行计算。

Float和Double的小数部分在转换为二进制的时候容易产生无限循环的情况,

通常都是取无限接近于原值的近似值,所以导致出现了精度丢失的情况。

那是如何出现无限循环的情况的呢?

首先因为计算机不可能提供无限的空间让程序去存储这些二进制小数。

所以它需要规定长度, 在Java 中, 提供了两种方式: float 和double , 分别是32位和64位。

例如:有个浮点型double a = 0.1, double b =0.2,a+b=?;

0.1是一个十进制的小数,要转换为二进制;

0.1转化成二进制的算法:

0.1*2=0.2======取出整数部分0

  • 2
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值