IEEE 754 round-to-nearest-even

IEEE 754 

二进制的向偶舍入,舍入的值保证最靠近原浮点数值,如果舍入为中间值,即舍还是入距离相等,那么按其最末尾一位是奇数,则入,如果为偶数,则舍

下面例子说明:


xxx.yyyyy10000

x为实数任意值

y为任意值

最末尾y为需要保留的最后一位。最尾数y后续数值情况说明(如上面的10000),:

10001:只要第一个1后续数字还包含有1,则说明最尾数y后续数值 > 1/2^5 * 1/2,即最尾数y+1, 说明一下 1/2^5是二进制最末尾y为1值对应值,其后面即为其1/2

 0yyyy;如果第一个为0,即不管后续数字为多少,必然说明最尾数y后续数值<1/2^5 * 1/2 即最尾数还是保持y

 10000;如果第一个为1,但是后续的值均为0,则说明其后续的值=1/2^5 * 1/2 则这时候说明舍入的距离都是相同的,这时候查看y的值,如果y为1,则y+1,如果y为0,则保持y为0

  • 2
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值