信息论和编码理论
文章平均质量分 85
KXY_tech
感兴趣于IT的新技术、新领域
展开
-
实例说说汉明码
实例说说汉明码 一个(n,k)码指的是把信源序列划为长度k,编码后长度为n,因此信道传输速率为k/n。下文所用的信道是二进制对称信道(BSC),单个比特误码率p 假设信道传输速率R=4/7,即每个单位时间信源能产生4个比特,信道能发送7个比特,即信道能在每个单位时间内除了发送4个比特外,还能发送3个附加比特。现在假设这四个信源比特为x0、x1、x2和x原创 2009-03-09 19:56:00 · 4735 阅读 · 1 评论 -
一些信息熵的含义
一些信息熵的含义(1) 信息熵的定义:假设X是一个离散随即变量,即它的取值范围R={x1,x2...}是有限可数的。设pi=P{X=xi},X的熵定义为: (a)若(a)式中,对数的底为2,则熵表示为H2(x),此时以2为基底的熵单位是bits,即位。若某一项pi=0,则定义该项的pi原创 2009-03-16 09:27:00 · 24041 阅读 · 3 评论 -
信息率失真函数
信息率失真函数 在实际问题中,信号有一定得失真是可以容忍的。但是当失真大于某一个限度时,信息质量就会有严重损伤。要规定失真限度,必须有一个定量的失真测度。为此,可以引入失真函数。 失真函数: 假若一个数据处理系统,输入样值为xi,xi∈{a1,...,an},输出yj,yj∈{b1,...,bm}。此时定义失真函数: 将所有的d(x原创 2009-05-08 08:19:00 · 19855 阅读 · 5 评论