一、小数在计算机中不精确的原因:
在计算机中的运算是使用二进制来进行的,通常程序中的十进制数字是先转换成二进制,再进行运算的。在基本数据类型中,浮点型float和double是有小数部分的,在其小数部分转换成二进制的时候可能会进入无限循环,所以在取值的时候我们并不能够取到完整的值,只能取到无限接近于原值的近似值,从而导致其精度丢失,所以大部分的小数在计算机中都是不精确的。
二,1,2,4,8byte的最大值和最小值表示方法
三,原码,反码和补码的求法
四,十六进制转二进制小数以及二进制小数转成十六进制小数
五,十进制小数转换二进制小数以及二进制小数转换成十进制小数
六,实际举例
例如十进制0.4转换成二进制,这个算下来就属于无限循环,所以他一直是在趋近一个数字,而无法精确数字。
七,总结
所以我们在这个举例中能看出来,它处于在无限循环,所以我们在此处才阐述大部分的小数在计算机中是不精确的!