HEVC中哈达玛变换计算SATD的向量指令优化

摘要

在HEVC中，有一种率失真的快速计算方法，用到的是SATD（Sum of Absolute Transformed DIfference），具体来说就是残差矩阵经过哈达玛变换，得到系数矩阵，绝对值求和得到SATD值。x265中4x4尺寸对应的函数就是satd_4x4，该函数提供x86的向量指令优化，本文就介绍向量优化后，该算法的结构。

正文

整个satd_4x4过程总的来说可以用一个公式来表示

$$SATD=\sum \sum |HXH|$$

具体一点的话就是

$$HXH=\frac{1}{4}\left\{\begin{array}{c}\left[\begin{array}{cccc}1& 1& 1& 1\\ 1& -1& 1& -1\\ 1& 1& -1& -1\\ 1& -1& -1& 1\end{array}\right]\left[\begin{array}{cccc}{r}_{00}& r_{01}& r_{02}& r_{03}\\ r_{10}& r_{11}& r_{12}& r_{13}\\ r_{20}& r_{21}& r_{22}& r_{23}\\ r_{30}& r_{31}& r_{32}& r_{33}\end{array}\right]\left[\begin{array}{cccc}1& 1& 1& 1\\ 1& -1& 1& -1\\ 1& 1& -1& -1\\ 1& -1& -1& 1\end{array}\right]\end{array}\right\}$$

左边是列变换，右边是行变换。理论知识差不多就是这样，具体怎么得到的就需要参考专业知识了，这里就不多做介绍了。

接下来看具体的实现，具体用什么指令这里也不详细讲了，这里讲述的向量是128位的。satd_4x4该函数得到的参数是

(const pixel *pix1, intptr_t stride_pix1, const pixel *pix2, intptr_t stride_pix2)

两个源矩阵和各自的步长。
这里规定几个表述方法 $ro{w}_n$ 表示第n行，$colum{n}_m$ 表示第m列， v(x)i(y)就表示有x个y位数，且为有符号表示， v(x)u(y)就表示无符号。

首先就是基本的数据装载过程，经过访存、插入、复制得到

v16i8 $pix1\_0$ = { $ro{w}_1,ro{w}_1,ro{w}_0,ro{w}_0$}
v16i8 $pix1\_1$ = { $ro{w}_3,ro{w}_3,ro{w}_2,ro{w}_2$}

pix1和pix2各有一对,同样的结构。
然后使用了一个常量数据

v16i8 con = {-1, 1, -1, 1, 1, 1, 1, 1, -1, 1, -1, 1, 1, 1, 1, 1}

相邻位置与上面的数据点乘， 举例来说就是

$pix1\_0[0]\ast con[0]+pix1\_0[1]\ast con[1]$

以此类推，得到一个v8i16的数据类型，结构对于每一行都一样，列结构表示为。

v8i16 pix = { $co{l}_2-co{l}_3,co{l}_0-co{l}_1,co{l}_2+co{l}_3,co{l}_0+co{l}_1,...$}

剩下的四个就是另一行，结构相同。然后将所有数据 pix1 - pix2，得到残差(residual)，两个数据，$v8i16res0,res1$。行结构和上面一样分别是

r e s 0 = { r o w 1