DIY主题讨论9:浮点数

【DIY主题讨论9:浮点数】

1)包装类Float中为什么有两个常量来表示最小值:MIN_VALUE和MIN_NORMAL?
MIN_NORMAL = 2^(-126):
A constant holding the smallest positive nonzero value of type
最小正非零值,对应于IEEE754浮点数标准
MIN_VALUE = 2^(-149):
A constant holding the smallest positive nonzero value of type
最小正标准值 ,非标准
2)double a = 1.0-0.9的结果不精确等于0.1,为什么?
单精度浮点数的表示:第一位符号位,0表示正数,1表示负数,后8位指数位,后23位有效数字
双精度浮点数的表示:第一位符号位,0表示正数,1表示负数,后11位指数位,后52位有效数字
计算结果:0.09999999999999998
1.0的二进制表示:
1 11111111100 00000000000000000000000000000000000000000000000000
尾数补码:00000000000000000000000000000000000000000000000000
-0.9的二进制表示(1100其实是无限循环的):
1 01111111110 1100110011001100110011001100110011001100110011001101
尾数补码:
1 01111111110 00011001100110011001100110011001100110011001100110011
对阶,以1023准,-0.9变成
1 01111111111 10001100110011001100110011001100110011001100110011001
在对阶的过程中发生了精度丢失
拓展:float 1.0f-0.9f = 0.100000024
总结:浮点数在运算时,对阶会发生尾数移位,移位导致了数据表示的精度偏差,进而导致结果偏差

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值