loss函数汇总

BCE loss

b这里指的是binary，二分类交叉熵损失。在使用BCELoss时需要在该层前面加上Sigmoid函数，公式如下：

缺点：正类别是训练的时候更加关注的部分，而错分的负类别没有被关注。？？？
https://www.zhihu.com/question/422946096/answer/1541228837

CE loss

CrossEntropyLoss，交叉熵损失。

Focal loss

何凯明大佬提出的。优点：它更加关注难样本。

Asymmetric Loss For Multi-Label Classification 2020 阿里达摩院

1、一种非对称损失，它在正负样本上有不同的操作。主要针对正负样本不平衡，对loss的影响应该不同。
2、提出硬阈值，硬阈值对正负样本极度不平衡的时候有效。

softmax loss
https://www.zhihu.com/question/294679135/answer/885285177
https://zhuanlan.zhihu.com/p/93054123
https://zhuanlan.zhihu.com/p/93054123
https://zhuanlan.zhihu.com/p/95793237