为什么大部分小数在计算机中是不精确的

        计算机使用二进制运算,程序中的十进制数字先转换成二进制,再进行运算。Float和Double的小数部分在转换为二进制时容易产生无限循坏的情况,通常都是取无限接近于原值的近似值,所以导致出现精度丢失的情况。

例如:十进制小数转换为二进制小数:

                    十进制小数:12.25

                     二进制小数:(整数转整数,小数转小数)

                                              12转换为二进制为1100

                                               0.25转换为二进制        0.25*2=0.5

                                                                                    0.5*2=1.0

                      二进制小数:1100.01

例如:              十进制小数:12.615                     

                       二进制小数:(整数转整数,小数转小数)

                                              12转换为二进制为1100

                                               0.615转换为二进制        0.615*2=1.23

                                                                                      0.23*2=0.46

                                                                                      0.46*2=0.92

                                                                                      0.92*2=1.84

                                                                                      0.84*2=1.68

                                                                                      0.68*2=1.36   

                                                                                      1.36*2=0.72

                                                                                       0.72*2=1.44        .......

                        二进制小数:1100.10011101(保留了后八位)

                        在这种情况下的转换就是不精确的,产生了无限循坏的情况。

                                                                                   

  • 6
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值