损失函数
- Cross Entropy Loss
- Dice Loss
- IoU Loss
- Focal Loss
- Boundary Loss
1、Cross Entropy Loss
L
C
E
=
−
∑
i
=
1
N
y
(
i
)
l
o
g
y
^
(
i
)
+
(
1
−
y
(
i
)
)
l
o
g
(
1
−
y
^
(
i
)
)
L_{CE} = - \sum_{i=1}^N y^{(i)}log\hat{y}^{(i)} + (1-y^{(i)})log(1-\hat{y}^{(i)})
LCE=−i=1∑Ny(i)logy^(i)+(1−y(i))log(1−y^(i))
应用于大多数的语义分割场景,不适用于前景和背景所占比例差别较大的情况。细粒度信息分割效果不好。
2、Dice Loss
L
D
i
c
e
=
1
−
D
S
C
=
1
−
2
∣
X
∩
Y
∣
∣
X
∣
+
∣
Y
∣
L_{Dice} = 1 - DSC = 1 - \frac{2|X\cap Y|}{|X|+|Y|}
LDice=1−DSC=1−∣X∣+∣Y∣2∣X∩Y∣
常用于医学图像分割,适用于样本分布极度不平衡的情况。正常情况下使用Dice Loss反而不利,使训练不稳定。
3、IoU Loss
L
I
o
U
=
T
P
T
P
+
F
P
+
F
N
L_{IoU} = \frac{TP}{TP+FP+FN}
LIoU=TP+FP+FNTP
IoU是目标检测中的指标,旨在增加模型定位的精度。
4、Focal Loss
L
F
o
c
a
l
=
−
(
1
−
p
t
)
γ
l
o
g
(
p
t
)
L_{Focal}=-(1-p_t)^\gamma log(p_t)
LFocal=−(1−pt)γlog(pt)
标准交叉熵的改进,解决类别不平衡问题。容易分割的样本损失降低,困难样本的损失较高,聚焦困难样本。
5、Boundary Loss
D
i
s
t
(
∂
G
,
∂
S
)
=
∫
∂
G
∣
∣
y
∂
S
(
p
)
−
p
∣
∣
2
d
p
Dist(\partial G, \partial S) = \int_{\partial G} || y\partial S(p) - p ||^2dp
Dist(∂G,∂S)=∫∂G∣∣y∂S(p)−p∣∣2dp
边界损失,主要提高了区域边界分割的准确度。
G
G
G表示
G
r
o
u
n
d
Ground
Ground
T
r
u
t
h
Truth
Truth
P P P表示 P r e d i c t i o n Prediction Prediction
G 1 , P 1 G_1, P_1 G1,P1分别表示 G G G和 P P P的线边界
G d , P d G_d, P_d Gd,Pd分别表示 G G G和 P P P的宽度为 d d d的边界区域
d d d边界区域的像素宽度