计算机16位32位64位整数,在16位、32位和64位IEEE-754系统中,可以表示什么范围的数字?...

ba15deb30ddcf01086cd105dccdb57aa.png

温温酱

为某一给定IEEE-754浮点数X,如果2^E <= abs(X) 

epsilon = 2^(E-23)    % For a 32-bit float (single precision)

epsilon = 2^(E-10)    % For a 16-bit float (half precision)根据上述方程式,我们可以计算出下列各点:为半精度...如果您希望获得+/-0.5(或2^-1)的精度,则该数字的最大大小为2^10。任何大于此的值,浮点数之间的距离都大于0.5。如果您想要一个+/-0.0005的精度(大约2^-11),那么这个数字的最大大小是1,任何大于这个值的值,浮点数之间的距离都大于0.0005。为单精度...如果希望精度为+/-0.5(或2^-1),则该数字的最大大小为2^23。任何大于此和浮点数之间的距离都大于0.5。如果您希望获得+/-0.0005(约2^-11)的精度,则该数字的最大大小为2^13。任何大于此的值和浮点数之间的距离都大于0.0005。为双精度...如果希望精度为+/-0.5(或2^-1),则该数字的最大大小为2^52。任何大于此和浮点数之间的距离都大于0.5。如果要获得+/-0.0005(约2^-11)的精度,则该数字的最大大小为2^42。任何大于此和浮点数之间的距离都大于0.0005。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值