关闭

IEEE 754 round-to-nearest-even

94人阅读 评论(0) 收藏 举报
分类:

IEEE 754 

二进制的向偶舍入,舍入的值保证最靠近原浮点数值,如果舍入为中间值,即舍还是入距离相等,那么按其最末尾一位是奇数,则入,如果为偶数,则舍

下面例子说明:


xxx.yyyyy10000

x为实数任意值

y为任意值

最末尾y为需要保留的最后一位。最尾数y后续数值情况说明(如上面的10000),:

10001:只要第一个1后续数字还包含有1,则说明最尾数y后续数值 > 1/2^5 * 1/2,即最尾数y+1, 说明一下 1/2^5是二进制最末尾y为1值对应值,其后面即为其1/2

 0yyyy;如果第一个为0,即不管后续数字为多少,必然说明最尾数y后续数值<1/2^5 * 1/2 即最尾数还是保持y

 10000;如果第一个为1,但是后续的值均为0,则说明其后续的值=1/2^5 * 1/2 则这时候说明舍入的距离都是相同的,这时候查看y的值,如果y为1,则y+1,如果y为0,则保持y为0

0
0

查看评论
* 以上用户言论只代表其个人观点,不代表CSDN网站的观点或立场
    个人资料
    • 访问:29088次
    • 积分:1529
    • 等级:
    • 排名:千里之外
    • 原创:111篇
    • 转载:98篇
    • 译文:2篇
    • 评论:4条
    最新评论