无损定点化,fpga数据定点化误差

无损量化:量化误差小于量化精度的一半。
如:13.948
整数13,需要4位量化
小数部分一直乘2,直到第一位小数小于5,满足条件,因为第一位小数小于5就说明量化误差小于精度的一半。
量化精度位1/2^N,N位小数部分量化位数。
1、1位量化
0.948*2=1.896。

一个的量化精度为1/2=0.5;
误差为0.896/2=0.448;
0.448/0.5=0.896>0.5,所以1位量化小数不行。

2、两位量化
1.896*2= 3.792

3、三位量化
3.792*2=7.584

4、四位量化
7.584*2=15.168

四个的量化精度为1/16;
误差为0.168/16;
(0.168/16)/(1/16)=0.168<0.5,所以三位量化小数可以。

  • 4
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 4
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值