多次对同一个信源进行测量可以认为是一个发送端在多个接收端已知的条件下的联合信息量
得到一个结论,多次测量的互信息量比单次测量的互信息量大,也就是考证次数多的信息更可靠
各种熵的对比
条件熵是X -Y。暂且理解为已知Y因此Y的不确定度为0,为白色
交集是平均互信息量。
信道容量:
单符号离散信道容量
信道转移概率矩阵 :表示发送ai时收到bj的概率的矩阵
平均互信息量I(X;Y)是指平均意义上每传送一个信号流经信道的平均信息量
信息传输率 R = I(X;Y)≤H(X),它是关于p(ai)和p(bj/ai)的函数