信源编码
- C(x)表示x的码字
- I(x)表示C(x)长度
- L©表示期望长度
编码类型
- 非奇异
x ≠ x ′ → C ( x ) ≠ C ( x ′ ) x\neq x'\rightarrow C(x)\neq C(x') x=x′→C(x)=C(x′) - 扩展
C ( x 1 . . . x n ) = C ( x 1 ) . . . C ( x n ) C(x_{1}...x_{n})=C(x_{1})...C(x_{n}) C(x1...xn)=C(x1)...C(xn) - 唯一可译
非奇异拓展编码 - 前缀码/即时码
没有码字为其他码字前缀
包含关系
全
体
→
非
奇
异
→
唯
一
可
译
→
即
时
全体\rightarrow 非奇异\rightarrow 唯一可译\rightarrow 即时
全体→非奇异→唯一可译→即时
Kraft不等式
D元字母表上即时码,码长
l
1
.
.
.
l
m
l_{1}...l_{m}
l1...lm有
∑
D
−
l
i
≤
1
\sum D^{-l_{i}}\leq 1
∑D−li≤1
香农第一定理
可变长无失真信源编码定理
每字符期望码长为
L
n
L_{n}
Ln
有无失真唯一可译码满足
H
D
≤
L
n
≤
H
D
(
X
)
+
ε
H_{D}\leq L_{n}\leq H_{D}(X)+\varepsilon
HD≤Ln≤HD(X)+ε