计算机进行浮点型运算为什么会造成精度丢失

本文详细探讨了浮点型运算导致精度丢失的原因,包括小数的二进制表示问题,float型在内存中的存储方式,浮点型的减法运算过程,以及通过具体例子12.0f-11.9f来展示精度丢失问题。
摘要由CSDN通过智能技术生成

现在我们就详细剖析一下浮点型运算为什么会造成精度丢失?

1、小数的二进制表示问题

首先我们要搞清楚下面两个问题:

(1) 十进制整数如何转化为二进制数

二进制整数 1111

第一位1表示十进制1
第二位1表示十进制2
第三位1表示十进制4
第四位1表示十进制8
......

十进制11表示成二进制数:

11/2=5 余   1
5/2=2   余   1
2/2=1   余   0
1/2=0   余   1
0结束         
11二进制表示为(从下往上):1011

注意:只要遇到整除以后的结果为0就结束了,所有的整数整除以2是一定能够最终得到0。换句话说,所有的整数转变为二进制数的算法会不会无限循环下去呢?绝对不会,整数永远可以用二进制精确表示 ,但小数就不一定了。

(2) 十进制小数如何转化为二进制数

二进制小数 0.1111

第一位1表示十进制1/2
第二位1表示十进制1/4
第三位1表示十进制1/8
第四位1表示十进制1/16
......

所以十进制小数转二进制小数,算法是乘以2直到没有了小数为止。举个例子,0.9表示成二进制数

0.9*2=1.8   取整数部分 1
0.8(1.8的小数部分)*2=1.6    取整数部分 1
0.6*2=1.2   取整数部分 1
0.2*2=0.4   取整数部分 0
0.4*2=0.8   取整数部分 0
0.8*2=1.6 取整数部分 1
0.6*2=1.2   取整数部分 0
.........      0.9二进制表示
  • 4
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值