float类型数据在计算机中的存储及精度、有效位解释

float类型二进制表示时有效位至少32位,十进制表示时至少6位有效位

浮点数类型在计算机中是以二进制科学技术法存储的,一共用32位表示:符号位1位+指数位8位+小数位23位
请添加图片描述

十进制数8.25(二进制科学表示:1.0001*2^3,所有数的整数部分都是1)用二进制值表示为0 1000 0010 00010…0(后面全部为零)
二进制一共用32位表示所以有32位有效位,
除了符号位和指数位还剩下23位可以用来表示数值的小数部分,再加上整数位为1的那一位一共有24位可以用来表示数值,十进制中一位十进制数需要4个二进制位来表示,所以有24/4=6,即十进制中float至少有6位有效位。

浮点运算的精度是降低的

11.17用二进制科学记数法保存时23位二进制位表示小数时不能精确表示,在计算机里存储的是估计值
请添加图片描述
所以说浮点类型计算的精度是降低的

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值