浮点型数据的存储与比较

浮点型数据

浮点数用指数形式表示
0.008->8E-3
8000->8E+3

输出%f,输出float
输出%lf,输出double
输出%Lf,输出long double
输出%.30f,代表输出浮点数保留30位小数

        由上图可知,float类型的精度是6位,double与long double的精度是16位,精度之后的数不再准确。事实上绝大多数浮点数据都不是一个精确的数,而是经过省略的。比如1.0减去0.9不等于0.1,这与浮点型数据的存储有关。

浮点型数据的存储

        与整型的原码,反码,补码存储不一样,浮点型存储遵循上述标准,文字比较难懂,下面举例说明。

  • 将整数部分转换为二进制表示
  • 将小数部分转换为二进制表示(见上图右上角),该例子可以直接转换成二进制,是一个精确数。但大部分情况小数部分不能精确转换成二进制,需要近似存储,比如0.2:

0.2*2=0.4        0.4*2=0.8        0.8*2=1.6        0.6*2=1.2        0.2*2=0.4开始循环,近似存储为.0011...

  • 将转换为二进制的整数部分与小数部分合在一起并改写成1.xxx的形式,上述例子1001.101改成1.001101,小数点前移三位,因此指数E=3
  • 最后S=0,M=001101,E=3,float E的偏移量为127,最终结果为127+3=130,二进制10000010
  • 故存储数据为0 1000 0010 0011 0100 0...0

浮点数怎么作比较

        由上述浮点型的存储可知,浮点型数据在存储时进行了近似处理,因此在判断浮点数是否相等时,比如1.0减去0.9是否等于0.1,不能直接判断。

        浮点数存在精度损失,因此浮点数比较,比较的是差值绝对值是否小于精度
a=1.0,b=0.9
if(fabs(a-b-0.1)<0.0000 0000 0000 01)
输出a-b=0.1

绝对值函数fabs(a),求一个浮点型数的绝对值

  • 7
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值