qq_52150320的博客

原创 条件自信息量与互信息量的区别

条件自信息量与互信息量的区别前言一、两者概念区分1、自信息量2、条件信息量3、互信息量二、两者公式1、条件信息量2、互信息量总结前言在学习过程中我常将互信息量与条件自信息量两者混淆，在此做出总结加以区分一、两者概念区分因为条件信息量的本质是自信息量，因此我们先抛出自信息量的概念1、自信息量对 bjb_{j}bj​ 一无所知的情况下，对aia_{i}ai​的不确定度2、条件信息量在已知 bjb_{j}bj​的条件下， aia_{i}ai​仍然存在的不确定度3、互信息量在接受到bj..