莲君

1.信息量含义：对信息的度量。概率越小，信息量越大。公式：h(xi)=−log2p(xi)h(x_i)=-log_2p(x_i)h(xi​)=−log2​p(xi​)或者h(xi)=log21p(xi)h(x_i)=log_2\frac{1}{p(x_i)}h(xi​)=log2​p(xi​)1​p(xi)p(x_i)p(xi​)为事件xix_ixi​发生的概率大小，一般所用底数为2。根...