[百其]交叉熵损失函数

预测值
y ^ = P ( y = 1 ∣ x ) \displaystyle \hat y = P(y=1|x) y^=P(y=1x)
1 − y ^ = P ( y = 0 ∣ x ) 1-\displaystyle \hat y = P(y=0|x) 1y^=P(y=0x)
最大似然估计
p ( y ∣ x ) = y ^ y ( 1 − y ^ ) 1 − y p(y|x) = \hat y ^ y (1- \hat y)^{1-y} p(yx)=y^y(1y^)1y
概率(越大越好)等比于 ∝ \varpropto
log ⁡ ( p ( y ∣ x ) ) ) = y log ⁡ y ^ + ( 1 − y ) log ⁡ ( 1 − y ^ ) \log(p(y|x))) = y \log \hat y + (1-y) \log(1- \hat y) log(p(yx)))=ylogy^+(1y)log(1y^)
损失函数(越小越好)在其前面加负号即可
L = − y log ⁡ y ^ − ( 1 − y ) log ⁡ ( 1 − y ^ ) L = - y \log \hat y - (1-y) \log(1- \hat y) L=ylogy^(1y)log(1y^)

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值