?
1962年Gallager提出了LDPC码的基本概率译码算法,本节将阐述这一思想。从联合条件概率分布到边缘条件概率分布
解决一个大的问题的基本思路在于将其分解为一系列的小问题。对于似然函数而言,如果求
的概率密度可以达到同样的效果,即求
那么求解会方便很多。如果
,那么求解
和求解
具有相同的效果。那么问题在于是否可以这样做。
如果
之间相互独立,这一关系显然是成立的;然而独立也就意味着不相关,那么这是不符合冗余度要求的。注意到我们求的是条件独立,条件是
属于码本空间。条件独立的关系应该是成立的,虽然不清楚如何证明,然而其相关性已经作为条件出现在概率分布函数中了,在这一前提下
之间相互独立。加性高斯白噪声信道
发送信号通过信道后成为了接收信号