Polar码（1）— 基础理论

Polar码的背景

       极化（Polar）码是由土耳其的E.Arikan于2008年基于信道极化现象而提出的一类线性分组码，是首个可理论证明能达到任意二进制输入离散无记忆对称信道容量的信道编码，并且具有较低的编译码复杂度和确定性的构造而备受关注。

Polar码的基本原理

       Polar码的主要思想是将多个子信道合并成一个等效信道，然后将等效信道分裂成多个信道容量呈两极分化（信道容量接近0或者1）的子信道，最后将信息在信道容量接近1的无噪子信道发送信息，而在信道容量接近0的子信道上发送收发已知的比特信息，从而提高信息传输的可靠性。
       Polar码的极化过程主要由两步来完成，第一步：信道联合；第二步：信道分裂。下面对这两步进行简单介绍

信道联合

       信道联合是信道极化的第一步，指N个独立的B-DMC（二进制对称离散无记忆信道）信道W组成一个新的矢量信道$W_N:X^N\to Y^N$，其中$N=2^N，n>=0$;当n=0时，可认为联合信道$W_1=W$。以n=1举例说明，即有两个独立的B-DMC信道，然后将其联合成一个新的信道$W_2:X^2\to Y^2$，如下图所示，

       对应的转移概率为
$$W_2\left(y_1,y_2|u_1,u_2\right)=W\left(y_1|u_1\oplus u_2\right)W\left(y_2|u_2\right)$$       其中$\oplus$表示模2加。矢量信道$W^2$的输入$x_1^2$和合并信道$W_2$的输入$u_1^2$之间的关系为$x_1^2=u_1^2{G}_4$，且有$G2=\left[\begin{array}{cc}1& 0\\ 1& 1\end{array}\right]$。进一步延伸，两个$W_2$可以合成一个$W_4$（也可以理解为4个独立的W子信道合成一个$W_4$），如下图所示

       $W_4$的信道转移概率为
$$W_4\left(y_1^4|u_1^4\right)=W^4\left(y_1^4|u_1^4{G}_4\right)$$       图中的$R4$可理解为对s序列进行奇偶分离，即$v_1^4=R4\ast s_1^4=(s_1,s_3,s_2,s_4)$，且
$$R4=\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 0& 1& 0\\ 0& 1& 0& 0\\ 0& 0& 0& 1\end{array}\right]$$        矢量信道$W^4$的输入$x_1^4$和合并信道$W_4$的输入$u_1^4$之间的关系为$x_1^4=u_1^4\ast G4$，且有
$$G4=\left[\begin{array}{cccc}1& 0& 0& 0\\ 1& 0& 1& 0\\ 1& 1& 0& 0\\ 1& 1& 1& 1\end{array}\right]$$        从上述可以看出四阶合并后的信道$W_4$具有递归结果，可以表示为$G_4=G_2\otimes G_2$，其中$\otimes$表示克罗内克积。不失一般性，将N个独立的子信道W进行合并成$W_N$时，如下图所示

       $W^N$和$W_N$之间的关系可以表示为$x_1^N=u_1^N\ast G_N$，其中$G_N=F^{\otimes n}$，矩阵F可表示为$F=\left[\begin{array}{cc}1& 0\\ 1& 1\end{array}\right]$，且有$F^{\otimes n}=F\otimes F^{\otimes n-1}$。为了Polar译码的便利性，在递归的基础上又增加了输入序列的奇偶分离，即有输入序列$v_1^N=(s_1,s_3,...,s_{N-1},s_2,s_4,...,s_N)$，此操作通过R矩阵（初等列变换矩阵）实现，综合一下有Polar码的生成矩阵$G_N$为$G_N=B_N\ast F^{\otimes n}，n=2^n$；且$B_N=R_N\ast (I_2\otimes B_{N/2})$，表示比特反序的置换矩阵。

信道分裂

       信道分裂是信道极化的第二步，在将信道联合构成矢量信道$W_N$后，下一步将$W_N$分裂为N个二进制虚拟子信道$W_N^{(i)}:X\to Y^N\times X^{i-1},1<=i<=N$，其转移概率为

       其中 $u_i$表示第$i$个分裂子信道$W_N^{(i)}$的输入，$(y_1^N,u_1^{i-1}|u_i)$表示其输出。根据上述分裂过程，当N=2时，联合信道$W_2$可分裂为如下两个子信道$W_2^{(1)}:x_1\to \left(y_1,y_2\right)$和$W_2^{(2)}:x_2\to \left(x_1,y_1,y_2\right)$。以BEC（二元删除信道）为例，极化后的N个子信道的信道容量由下列递推公式给出

       并且此信道分裂过程也是无损的，分裂前和分裂后的容量总和是相等的。具体如下
$$\begin{gathered} C\left(W_N\right)=I\left(U^N;Y^N\right) \\ =\sum _{i=1}^{N}I\left(U_i;Y^N|U_1^{i-1}\right) \\ =\sum _{i=1}^{N}I\left(U_i;Y^N,U_1^{i-1}\right) \\ =\sum _{i=1}^{N}C\left(W_N^i\right) \end{gathered}$$

极化定理

       定理1：对于任意的B_DMC信道W和$\delta \in \left(0,1\right)$，随着N逐渐趋近于正无穷，极化信道$W_N^i$的“好”的子信道中容量满足$I(W_N^i)\in (1-\delta ,1]$的比例趋近于$I(W)$;而子信道容量满足$I(W_N^i)\in [0,\delta )$的“坏”信道所占的比例趋近于$1-C(W)$。
       定理2：关于定理1中的$\delta$，有$\delta \approx 2^{\sqrt{N}}$；对于N=2，信道分裂将合并后的信道$W_2$分裂成两个比特信道：
       1）“坏”信道：$W^{-}：U_1\to (Y_1,Y_2)$，其信道容量为$I(W^{-})=I(U_1;Y_1,Y_2)$
       2）“好”信道：$W^{+}：U_2\to (Y_1,Y_2，U_1)$，其信道容量为$I(W^{+})=I(U_2;Y_1,Y_2,U_1)$
       而且有$I(W^{-})<=I(W)<=I(W^{+})$；并且两个子信道的总信道容量是保持不变的，等于$2I(W)$;但是两个子信道间的容量被不均匀分配了。

信道极化举例

       假设BEC的删除概率为P=0.5，则其信道容量为$I(W_1^{(1)})=1-P$（很多信息论的书籍中均有其证明过程，此处就不再赘述）。针对信道分裂后的各个子信道容量有
       当$N=2$时有
$$I(W_2^{(1)})=1/4$$$$I(W_2^{(1)})=3/4$$       当$N=4$有$$I(W_4^{(1)})=1/16$$$$I(W_4^{(2)})=7/16$$$$I(W_4^{(3)})=9/16$$$$I(W_4^{(4)})=15/16$$       并且随着$N$值的增大，分裂后的子信道的容量会逐渐趋于两个极端0或者1。信道容量趋近于1的信道，我们认为是“好”的子信道，在上边发送信息比特；信道容量趋近于0的信道，我们认为是坏的子信道，在上边发送冻结比特（即收发端均已知的比特信息，用于提高收端译码的准确性）。举例当$N=2^{10}$且P=0.5时，则分裂后的$2^{10}$个子信道的信道容量分布如图所示

       从上图我们可以清楚的看出，分裂后的1024个子信道的信道容量呈现两极分化的趋势，并且随着$N$的进一步增大，这种趋势将更加明显。