交叉熵与二元交叉熵的联系
交叉熵常用于分类任务，其损失值与正确类别的预测概率相关。
交叉熵的损失函数如下：
L
o
s
s
=
−
1
S
∑
i
=
1
S
∑
j
=
1
C
y
i
j
∙
l
o
g
(
y
i
j
p
)
Loss =-\frac{1}{S} \sum_{i=1}^{S} \sum_{j=1}^{C} y_{ij} \bullet log(y^{p}_{ij})
Loss=−S1i=1∑Sj=1∑Cyij∙log(yijp)
其中，S代表样本的总数，C表示样本中类别的数量，
∙
\bullet
∙是乘法操作。
二元交叉熵的公式如下：
B
i
n
a
r
y
_
c
r
o
s
s
_
L
o
s
s
=
−
1
S
∑
i
=
1
S
∑
j
=
1
C
y
i
j
∙
l
o
g
(
y
i
j
p
)
+
(
1
−
y
i
j
)
∙
l
o
g
(
1
−
y
i
j
)
Binary \_ cross\_Loss = -\frac{1}{S} \sum_{i=1}^{S} \sum_{j=1}^{C} y_{ij} \bullet log(y^{p}_{ij}) + (1-y_{ij})\bullet log(1-y_{ij})
Binary_cross_Loss=−S1i=1∑Sj=1∑Cyij∙log(yijp)+(1−yij)∙log(1−yij)
3462
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
