- 博客(1)
- 收藏
- 关注
转载 交叉熵在机器学习中的使用
交叉熵在机器学习中的使用1、信息量概率越小,信息量越大,事件\(X=x_0\)的信息量为:\[I(x_0)=-log(p(x_0))\]2、熵熵表示所有信息量的期望:\[H(x)=-\sum_{i=1}^n p(x_i)log(p(x_i))\]其中n代表事件X有n种可能3、相对熵(KL散度)\[D_{KL}(p||q)=\sum_{i=1}^np(x_i)log(\f...
2019-07-29 11:22:00 213
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人