损失函数在反向传播中的作用

在二分类问题中用的最多的是binary_crossentropy，在物体检测中经常用到IoU，在医学图像分割中经常用到的是DICE, 它们的公式如下：

 

loss function.png

 

可以看出损失函数基本都是由真实值和预测值两部分组成，正确的损失函数，可以起到让预测值一直逼近真实值的效果，当预测值和真实值相等时，loss值最小。
下面是我以binary_crossentropy为例推导的反向传播过程，反向传播是一个不断更新权重w和偏差b的过程，当loss函数值为0时，表示预测值达到真实值，这时候权重和偏差不再需要更新。