首先从概率论的角度去衡量一个随机事件发生的可能性。可能性越大,其包含的信息量越小。性质上要满足: NormalizationContinuityGrouping 所以度量信息的形式只能如下一种形式 H(x)=-sum(-plog(p)) 5.当函数概率为均匀分布的时候,熵值最大。