为什么大部分小数在计算机中是不精确的?

本文探讨了Java中浮点数(float)和双精度数(double)在表示0.2乘以0.2为何结果略有误差,揭示了二进制下无法精确表示某些小数的原理,通过小数转换为二进制无限循环来解释计算机存储和运算的局限性。
摘要由CSDN通过智能技术生成

java中小数用float和double表示:

 float       4个字节(单精度)

double     8个字节(双精度)

         

        在数学的计算中 0.2*0.2的结果为0.04,但是为啥计算机中打印出来是0.040000000000000001呢,因为计算机中的存储和运算都是通过二进制来进行实现的,而在二进制中不能准确的表示0.4,只能保存一个无限接近于0.4的一个值。

 

 

 可以通过十进制转二进制的运算来说明这个:

1.整数部分转整数,小数部分转小数。

2.小数部分:十进制的值一直乘以2;结果如果大于1,整数部分清零(在二进制小数后补1)

                                                    结果如果不大于1(在二进制小数后补0)

3.直到结果为1.0则结束。

则0.4转换为二进制小数则为:0.0110011001100110...,后面的“0110”会一直无限的循环下去

所以计算机中就无法用二进制精确的表示0.4,只能取一个最接近的值来表示0.04所以大多数小数在计算机中都是不精确的。
 

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值