稀疏标签的交叉熵 ：tensorflow

熵 ：

• 离散形式：
  $$H(X)\equiv -\sum _{k=1}^{K}P(X=k)\log P(X=k)$$

##KL散度：
K L ( P ∣ ∣ Q ) = ∑ k = 1 K P k log ⁡ P k Q k = ∑ k = 1 K P k log ⁡ P k − ∑ k = 1 K P k l o g Q k = − H ( P ) + H ( P , Q ) / /