为什么大部分小数在计算机中是不精确的

一、小数在计算机中不精确的原因:

        在计算机中的运算是使用二进制来进行的,通常程序中的十进制数字是先转换成二进制,再进行运算的。在基本数据类型中,浮点型float和double是有小数部分的,在其小数部分转换成二进制的时候可能会进入无限循环,所以在取值的时候我们并不能够取到完整的值,只能取到无限接近于原值的近似值,从而导致其精度丢失,所以大部分的小数在计算机中都是不精确的。

二,1,2,4,8byte的最大值和最小值表示方法

三,原码,反码和补码的求法

四,十六进制转二进制小数以及二进制小数转成十六进制小数

五,十进制小数转换二进制小数以及二进制小数转换成十进制小数 

六,实际举例

例如十进制0.4转换成二进制,这个算下来就属于无限循环,所以他一直是在趋近一个数字,而无法精确数字。

 七,总结

所以我们在这个举例中能看出来,它处于在无限循环,所以我们在此处才阐述大部分的小数在计算机中是不精确的!

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值