为什么大部分小数在计算机中是不精确的

本文探讨了Java中浮点数(float和double)的精度问题,解释了为何0.1*0.1在计算机中不等于0.01。原因在于二进制无法精确表示十进制的0.1,导致计算结果出现微小误差。通过详细解析十进制到二进制的转换过程,揭示了小数在计算机内部的表示原理。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

Java中的小数用float和double表示,小数属于浮点型;

 

 数学的计算中0.1*0.1的结果应当是0.01;但是在计算机中打印出来的结果却是0.010000000000000002,这是为什么呢;主要原因是因为计算机中的存储和运算都是通过二进制实现的;而在二进制中不能精确表示0.1;只能保存一个无限接近0.1的数;所以得到的结果就是不精确的。

根据十进制小数转换成二进制小数的规则:

1.整数部分转整数,小数部分转小数。

2.小数部分:十进制的值一直乘以2;结果如果大于1,整数部分清零(在二进制小数后补1)

                                                    结果如果不大于1(在二进制小数后补0)

3.直到结果为1.0则结束。

则0.1转换为二进制小数则为:0.000110011001100...

后续的"1100"会一直无限循环下去;

所以计算机中就无法用二进制精确的表示0.1;

则大部分小数在计算机中是不精确的。

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值