通信原理——信息论部分

最新推荐文章于 2022-04-29 14:42:33 发布

尤三部

最新推荐文章于 2022-04-29 14:42:33 发布

阅读量470

点赞数

分类专栏：通信原理

本文链接：https://blog.csdn.net/qq_36267676/article/details/105707158

版权

通信原理专栏收录该内容

2 篇文章 0 订阅

订阅专栏

                    
                    信息是消除不确定性
符号等概率分布信息熵（单位bit）最大 H(X) = logN，单位符号携带信息量最大。香农第一定理
定长编码平均码长趋近于信息熵H(X)
唯一可译码–最优前缀码编码原理使用二叉树的概念，根节点用作码元，则该根节点的所有叶子节点都删除。平均码元长度在H(X)和H(X)+1之间
Huffman（哈夫曼）编码是使用符号出现频次或者符号的概率构建哈夫曼树，进而形成编码——二进制是最小的两值相加，三进制是最小三值相加，以此类推
香农公式计算信道容量：C = W * log(1+S/N);S/N为信噪比。香农第二定理
香农第三定理，信息的速率失真函数，率失真编码，失真编码存在的必要性