信息熵公式解析
信息熵的公式:
H ( A ) = − ∑ x i ϵ A n p ( x i ) l o g 2 p ( x i ) H(A)=-\sum_{x_{i}\epsilon A}^{n} p(x_{i})log_{2}p(x_{i}) H(A)=−xiϵA∑np(xi)log2p(xi)
- H(A): 集合A的信息熵
- A: 集合A={ x 1 x_{1} x1, x 2 x_{2} x2, x 3 x_{3} x3… x n x_{n} xn}
- x i x_{i} xi: x i x_{i} xi= x 1 x_{1} x1, x 2 x_{2} x2, x 3 x_{3} x3… x n x_{n} xn
- p( x i x_{i} xi): x i x_{i} xi在集合A中的概率