IEEE 754 round-to-nearest-even

IEEE 754 

二进制的向偶舍入,舍入的值保证最靠近原浮点数值,如果舍入为中间值,即舍还是入距离相等,那么按其最末尾一位是奇数,则入,如果为偶数,则舍

下面例子说明:


xxx.yyyyy10000

x为实数任意值

y为任意值

最末尾y为需要保留的最后一位。最尾数y后续数值情况说明(如上面的10000),:

10001:只要第一个1后续数字还包含有1,则说明最尾数y后续数值 > 1/2^5 * 1/2,即最尾数y+1, 说明一下 1/2^5是二进制最末尾y为1值对应值,其后面即为其1/2

 0yyyy;如果第一个为0,即不管后续数字为多少,必然说明最尾数y后续数值<1/2^5 * 1/2 即最尾数还是保持y

 10000;如果第一个为1,但是后续的值均为0,则说明其后续的值=1/2^5 * 1/2 则这时候说明舍入的距离都是相同的,这时候查看y的值,如果y为1,则y+1,如果y为0,则保持y为0

展开阅读全文
©️2020 CSDN 皮肤主题: 技术黑板 设计师: CSDN官方博客 返回首页
实付0元
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、C币套餐、付费专栏及课程。

余额充值