AVS3视频编码帧间变换方法

1、基于位置的变换方法(position based transform,PBT)

针对一定尺寸的帧间残差块（方块或非方块），选择使用基于位置的变换或者使用传统的DCT2进行变换，使用率失真优化选择最佳变换方式并在码流中标识，可以参考AVS提案M4541。

1、图中黑色边界表示编码单元的边界，红色虚线表示的是PBT划分后的子块边界。红色虚线表示十一划分的四个子块标识0~3；
2、编码单元使用RDO选择PBT还是传统的DCT2变换；
3、根据0~3子块位置，确定变换核，编码码流中不需要标识符；
使用PBT技术的CU需要满足以下条件：
1、当前残差块需要是帧间亮度预测块；
2、cu宽度大于等于8，小于等于32，高度大于等于8，小于等于32；
3、宽高比和高宽比小于2；

2、子块变换（Sub-block transform，SBT）

在PBT模式上进行扩展，增加帧间残差块的SBT变换技术：
1、将帧间inter残差块分为2个子块，其中一个字块残差默认为0，另一个字块残差默认不为0；
2、非0残差子块的大小和位置有8种选择(码流中会传输这些信息)，非零子块的变换按照子块的位置自适应选择DCT8/DCT7变换作为水平和垂直的变换，参考提案M4876
![在这里插入图片描述](https://img-blog.csdnimg.cn/20191024153430100.png