图像处理ASIC设计方法 笔记11 像素误差与字长优化

在这里插入图片描述

P108
P105 定点误差分析与字长优化

1 像素误差是什么原因导致的?

在本书所说的算法中,像素误差是由几次定点运算累加导致的:

首先由行(列)号与定点正弦/正切值计算出该行(列)的小数平移量,然后将这些小数平移量截取一定字长用来计算插值核,再将这些插值核也截取一定字长后与定点像素完成插值计算,得出每步平移后的像素值。

为了合理得出每步运算的字长,本书采用了由后向前的推理策略,依据最终要求的旋转像素精度,依次推测出插值核、小数平移量、正弦/正切等参数的合理字长。

2 如何得出每步运算的字长

以三个定点计算模块为例:整数小数平移量计算单元、插值核计算单元、插值运算单元

(1)整数小数平移量计算单元

这部分的算法,每行的平移量的公式中涉及浮点减法,为避免a,/2量化带来的误差,在结构中将其扩大两倍,即所有中间变量的量化宽度都将增加1位,最终模块输出再右移1位,恢复原位宽(也就是计算过程中多加一位,等最终结果计算完,再减一位)

(2)插值核计算单元

插值核计算中为避免小数量化带来的误差,在结构中将其扩大两倍,故所有中间变量的量化宽度都将增加1位,最终模块输出再右移

  • 5
    点赞
  • 10
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

徐丹FPGA之路

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值