这篇博客介绍了二元交叉熵（Binary Cross Entropy），从伯努利分布的角度出发，解释了如何通过最大似然估计来推导，并展示了在多个独立同分布样本上的应用，同时指出了损失函数的形式。
我们从两种角度来推导.
Bernoulli Distribution
对于任意一个样本 ( x , y ) (x,y) (x,y), 我们希望模型能够预测
P ( y ∣ x ) = { p ^ if y = 1 1 − p ^ if y = 0 P(y|x) = \begin{cases} \hat{p} & \text{if $y=1$}\\ 1- \hat{p} & \text{if $y=0$}\\ \end{cases} P(y∣x)={
p^1−p^if y=1if y=0
可以简写为
P ( y ∣ x ) = p ^ y ( 1 − p ^ ) 1 − y P(y|x)=\hat{p}^y(1-\hat{p})^{1-y} P(y∣x)=p
最低0.47元/天 解锁文章
扫一扫
1859
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
