转载-极化码系列（2）-极化码的编码原理

前言

在《Polar Code（1）概述》中建立了PolarCode初步印象，本文将详细阐述Polar Code的编码原理。Polar Code是通过引入信道极化的概念而建立的。信道极化分两个阶段，分别是信道联合和信道分裂。通过信道的联合和分裂，各个子信道的对称容量将呈现两极分化的趋势：随着码长$N$的增加，一部分子信道的容量趋于1，而其余子信道的容量趋于0。Polar Code正是利用这一信道极化现象，在容量趋于1的$K$个子信道上传输信息比特，在其余子信道上传输冻结比特（即收发双方已知的固定比特，通常设置为全零）。由此构成的信道编码即为Polar Code，码率为$\frac{K}{N}$。

预备知识

一个二进制输入离散无记忆信道（B-DMC）可表示为$W:X\to Y$，$X$是输入符号集合，$Y$是输出符号集合，转移概率为$W(y|x),x\in X,y\in Y$。由于信道是二进制输入，集合 X = { 0 , 1 } ; X=\{0,1\}; X={ 0,1};$Y$和$W(Y|x)$是任意值。对信道$W$的$N$次使用后的信道可以表示为$W^N$，则信道$W^N:X^N\to Y^N$的转移概率为 $W^N(y_1^N|x_1^N)={\prod }_{i=1}^{N}W(y|x)$。
对于一个B-DMC信道$W$,有两个重要的参数：
对称容量（Symmetric Capacity）：
$$I(W)\triangleq \sum _{y\in Y}\sum _{x\in X}\frac{1}{2}W(y|x)log\frac{W(y|x)}{\frac{1}{2}W(y|0)+\frac{1}{2}W(y|1)}$$
巴氏参数（Bhattacharyya Parameter）:
$$Z(W)\triangleq \sum _{y\in Y}\sqrt{W(y|0)W(y|1)}$$
$I(W)$是对信道速率的度量，$Z(W)$是对信道可靠性的度量。$I(W)$是信道$W$等概率输入的情况下可靠传输时的最大速率。而$Z(W)$是信道$W$只传输0或1下最大似然判决错误概率的上限。
$I(W)$与$Z(W)$的取值范围均为$[0,1]$。由于对数以2为底，因此码率和信道容量的单位为bit。$I(W)$与$Z(W)$满足这样的关系：当且仅当$Z(W)\approx 0$时，$I(W)\approx 1$；当且仅当$Z(W)\approx 1$时，$I(W)\approx 0$。

二进制对称信道BEC和二进制删除信道BSC

当$W$为对称信道时，$I(W)等于香农容量$。所谓信道对称，既满足：对于任意$y\in Y$，有$W(y|0)=W(-y|1)$。
二进制对称信道（Binary Symmetric Channel，BSC）和二进制删除信道（Binary Erasure Channel，BEC）都是满足对称性的B-DMC。
具体的说，对于 Y = { 0 , 1 } Y =\{0,1\} Y={ 0,1}，满足$W(0|0)=W(1|1)$且$W(1|0)=W(0|1)$的B-DMC就是BSC。
对于$y\in Y$，满足$W(y|0)W(y|1)=0$或$W(y|0)=W(y|1)$的B-DMC为BEC。对于BEC，符号$y$称为删除符号（Erasure Symbol）。

基本的数学表示说明

行向量$(a_1,...,a_N)$在这里简写为$a_1^N$。对于给定的行向量$a_1^N$，其子向量表示为$a_i^j,1\le i,j\le N$，且$i\le j$。对于给定的$a_1^N$和$A\subset 1,...,N$，记$a_A$表示子向量$(a_i:i\in A)$。记$a_{1,o}^j$表示奇数索引的子向量$(a_k:1\le k\le j;k\in odd)$。记$a_{1,e}^j$表示偶数索引的子向量$(a_k:1\le k\le j;k\in even)$。
举个栗子：$a_1^5=(5,4,6,$