香农注水定理

信道容量就是下面这个公式：

C=log(1+P/N)

其中C是信道容量，P是信号功率，N是噪声功率。 这几个字母，是香农老人家最牛逼的成果，指引着通信技术的发展方向。

如果信号的功率为P=P1+P2，可以验证一个公式：

C=log(1+(P1+P2)/N)=log(1+P1/N)+log(1+P2/(P1+N))=C1+C2。

C1=log(1+P1/N)可理解为信号功率P1，噪声为N时的容量，C2=log(1+P2/(P1+N))可理解为信号功率P2，噪声为(P1+N)时的容量。有人把这个叫superposition coding。

也就是说，这两份功率，第一份功率产生了一个容量，同时等效成了对第二份功率的噪声。

了解了这个结论，我们来想，如果有N个并行的信道，这N个信道上已经有一些噪声或者信号的功率。如果我再有一小份功率，把它分配到哪个信道上能获得最大的信道容量呢？从上面的分析我们知道，已经存在的功率，无论是噪声还是信号，对后来的信号来说都是噪声，因此，这一小份功率分配到累计功率最小的信道上获得的容量最大。这样分配的结果就是N个信道上的功率是相同的，就是注水定理。

注水定理可以看作是信道容量的动态过程。