Focal loss 知识蒸馏 目标检测 ResNet 特征金字塔

SOTA：state of the art

指在特定任务中目前表现最好的方法或模型

有了模型之后，我们需要通过定义损失函数来判断模型在样本上的表现

交叉熵loss

Focal loss

 

import torch
from torch.nn import functional as F

def sigmoid_focal_loss(
    inputs:torch.Tensor,
    targets:torch.Tensor,
    alpha:float=-1,
    gamma:float=2,#调节因子的指数
    reduction:str='none',#默认为none，传入mean的话outputs会被求平均，传入sum的话会被求和
)->torch.Tensor:
    """
    用于RetinaNet的loss函数
    """
    inputs=inputs.float(),
    targets=targets.float(),
    p=torch.sigmoid(inputs),
    ce_loss=F.binary_cross_entropy_with_lo