biased vs unbiased rounding ; 原码反码补码及其运算

 

biased rounding un-biased rounding:

1. 正數的時候 行為一樣 1-4 round down, 5-9 round up
>> HW 上是看到 1 就進位
ex. S0.8 ([8:0]) round S0.3
[4] 1: [8:5]+1
[4] 0: [8:5]
2. 負數的時候
biased rounding 和正數一樣行為
ex. S0.8 ([8:0]) round S0.3
[4] 1: [8:5]+1
[4] 0: [8:5]
unbiased rounding 要多判斷後面的位數
ex. S0.8 ([8:0]) round S0.3
[4] 1 && [3:0] 有任意 1:          [8:5]+1
[4] 0 || ([4] 1 && [3:0] 0): [8:5]

 

可以参考下面这个例子 :只有-1.5的case有差别。

 
 
 

 

S4.4

S4.0 biased

S4.0 unbiased

-1

111110000

11111

11111

-1.25

111101100

11111

11111

-1.5

111101000

11111 (-1)

11110 (-2)

-1.75

111100100

11110

11110

-2

111100000

11110

11110

 

signed numbers addition overflow process:

eg. s2.0 + s2.0 = s3.0  to avoid overflow 

   [-4]  |     1 0 0

+ [-1]  |     1 1 1

= [-5]  |   1 0 1 1   

 

 

=====================================background knowledge=======================

signed number overflow:

a[N-1:0].   only bit[N-1] and bit[N-2] both have carry, then result does NOT overflow;  otherwise, viseverse.

OF = Cn-1 xor Cn-2 

eg.1

 [+2]cplmnt = 010

 [+3]cplmnt = 011

=[-3]cplment=101   (OF=0 xor 1=1, overflow)

eg.2

  [-2] = 110

  [-3] = 101

=[+3]= 011    (OF=1 xor 0=1, overflow)

 

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值