第七章作业题必做部分
第七章主要是计算信道容量C,知道公式即可。
- 信道容量计算方法: C = m a x I ( X ; Y ) = m a x { Σ Σ P ( x i ) P ( y j ∣ x i ) l o g P ( y j ∣ x i ) P ( y j ) } C=max{I(X;Y)}=max\{\Sigma \Sigma P(x_i) P(y_j|x_i )log \frac{P(y_j|x_i )}{P(y_j)}\} C=maxI(X;Y)=max{ΣΣP(xi)P(yj∣xi)logP(yj)P(yj∣xi)}
- 信道转移矩阵具有对称性时(即矩阵的每一行元素都是其他任一行元素的重新排列,每一列也都是其他任意列元素的重新排列),则输入等概分布时,取得最大 I ( X ; Y ) I(X;Y) I(X;Y),此时计算任一个 I ( x i ; Y ) I(x_i;Y) I(xi;Y)都是信道容量C。
- 信道转移矩阵不具有对称性时,假设输入分布 P ( x = 0 ) = x P(x=0)=x P(x=0)=x, P ( x = 1 ) = 1 − x P(x=1)=1-x P(x=1)=1−x。根据 I ( X ; Y ) I(X;Y) I(X;Y)的计算公式写出其表达式;然后该表达式对x求导,找到使导数为0的x,就是使得互信息量最大的输入分布。之后便可以根据该输入分布求得信道容量C。
7-1
题目:
解题思路:核心在于以下两个关系式
- I ( X ; Y ) = Σ P ( x i ) I ( x i ; Y ) I(X;Y)=\Sigma P(x_i)I(x_i;Y) I(X;Y)=ΣP(xi)I(xi;Y)
- Σ P ( x i ) = 1 \Sigma P(x_i)=1 ΣP(xi)=1,在 P ( x i ) > 0 P(x_i)>0 P(xi)>0时
解题步骤:
7-3
题目:
解题思路:先判断转移矩阵是否对称,发现(a)、(b)都对称。则输入等概分布时,取得信道容量C。且只需要计算一个
I
(
x
i
)
;
Y
I(x_i);Y
I(xi);Y即可,得到的就是信道容量C。
解题步骤:
7-5
题目:
解题思路:本题主要考察波形信道的信道容量计算方法。
- C = B l o g ( 1 + P N 0 B ) C=Blog(1+\frac{P}{N_0B}) C=Blog(1+N0BP)
解题步骤:
7-8
题目:
解题思路:实际上就是高中数学学的排列组合的知识。
解题步骤:
7-10
题目:
解题思路:转移矩阵不对称,根据公式计算平均互信息的表达式。对平均互信息求导,找到平均互信息最大时的输入概率分布。
解题步骤:
7-11
解题思路:背住截止速率
R
Q
R_Q
RQ的公式
- R Q = m a x { − l o g [ Σ j ( Σ i P ( x i ) P ( y j ∣ x i ) ] 2 } R_Q=max\{-log[\Sigma_j(\Sigma_i P(x_i)\sqrt{P(y_j|x_i)}]^2\} RQ=max{−log[Σj(ΣiP(xi)P(yj∣xi)]2}
解题步骤:
7-13
解题思路:发现信道1对称(输入等概分布达到信道容量),信道2不对称(求导找到便能够达到信道容量的最佳输入分布)。不过这道题目中前两个都是很特殊的信道,可以先记下结论。(计算过程后面会写)
- 信道1是无差错信道,信道容量为1,在输入分布为 P ( x = 0 ) = P ( x = 1 ) = 1 / 2 P(x=0)=P(x=1)=1/2 P(x=0)=P(x=1)=1/2时达到C。
- 信道2是“z信道”。当转移概率为0时,退化为信道1(无差错, C = 1 C=1 C=1,输入分布等概);当转移概率为1/2时,C=0.3219,输入概率分布为 P ( x = 0 ) = 3 / 5 , P ( x = 1 ) = 2 / 5 P(x=0)=3/5,P(x=1)=2/5 P(x=0)=3/5,P(x=1)=2/5;当转移概率为1时,相当于所有信息均错误传输,C=0,输入概率分布为= P ( x = 0 ) = 0 , P ( x = 1 ) = 1 P(x=0)=0, P(x=1)=1 P(x=0)=0,P(x=1)=1。
解题步骤:
7-15
解题思路:同上,求导等于0。找到最佳输入概率分布。
解题步骤:
证明n个级联的z信道等效于具有转移概率n次方的z信道。
解题思路:写出级联信道的转移概率,发现是个等比数列,求和计算就会发现相当于一个转移概率n次方的z信道。
解题步骤:
7-17
解题思路:高斯白噪声不具备相关性,在相同的功率下信息量更少。
解题步骤:
7-19
解题思路:第一问就是高中数学排列组合。第二问首先求出
C
=
1
−
H
(
ϵ
)
C=1-H(\epsilon)
C=1−H(ϵ),然后令
R
(
D
)
=
C
R(D)=C
R(D)=C,根据
R
(
D
)
=
H
(
X
)
−
H
(
D
)
R(D)=H(X)-H(D)
R(D)=H(X)−H(D)求出
H
(
D
)
H(D)
H(D),从而得到D的值。第三问可靠传输的条件
H
(
X
)
<
C
H(X)<C
H(X)<C,其中
H
(
X
)
H(X)
H(X)已知,
C
=
1
−
H
(
ϵ
)
C=1-H(\epsilon)
C=1−H(ϵ),可以求出对应的
ϵ
\epsilon
ϵ值。
解题步骤:
7-22
解题思路:核心还是计算截止速率
R
Q
R_Q
RQ的公式。
- R Q = m a x { − l o g [ Σ ( Σ P ( x i ) P ( y j ∣ x i ) ) ] 2 } R_Q=max\{-log[\Sigma(\Sigma P(x_i) \sqrt{P(y_j|x_i)})]^2\} RQ=max{−log[Σ(ΣP(xi)P(yj∣xi))]2}
解题步骤: