折页损失函数代码实现

郭庆汝

于 2022-10-22 11:23:45 发布

阅读量197

点赞数

分类专栏： python 深度学习机器学习文章标签：深度学习 pytorch 机器学习

本文链接：https://blog.csdn.net/guoqingru0311/article/details/127459534

版权

python 同时被 3 个专栏收录

96 篇文章 5 订阅

订阅专栏

机器学习

63 篇文章 3 订阅

订阅专栏

深度学习

51 篇文章 3 订阅

订阅专栏

该博客详细介绍了折页损失（Hinge Loss）函数的代码实现，它主要用于最大间隔分类问题。通过计算每个样本的损失，取非正确分类得分与正确分类得分之差的最大值，若大于1则为0，否则为差值加1，再求平均得到总损失。此外，还提及了正则化的应用，但未在示例中具体实现。

摘要由CSDN通过智能技术生成

折页损失函数代码实现

def hinge_loss(outputs, labels):
    """
    折页损失计算
    1、针对每个样本上对不同分类的分数，选择不是该样本真实分类的分数与该样本真实分类的分数进行比较，如果该分数大于1，小于真实分类上的分数，则loss为0
    2、反之，该样本的loss为该分数加1再减去该样本在真实分类上的分数
    3、对所有的样本都按照此方法进行计算得到每个样本的loss，然后将它们加在一起凑成总loss值，并除以样本数以求平均

    :param outputs: 大小为(N, num_classes)
    :param labels: 大小为(N)   样本真实分类标签
    :return: 损失值
    """
    num_labels = len(labels)
    corrects = outputs[range(num_labels), labels].unsqueeze(0).T

    # 最大间隔
    margin = 1.0
    margins = outputs - corrects + margin
    loss = torch.sum(torch.max(margins, 1)[0]) / len(labels)

    # # 正则化强度
    # reg = 1e-3
    # loss += reg * torch.sum(weight ** 2)

    return loss