pytorch 损失函数_PyTorch(七)——损失函数

本文介绍了PyTorch中的损失函数,包括L1Loss、NLLLoss、MSELoss、CrossEntropyLoss和BCELoss的基本概念和用法。损失函数是评估模型预测与真实值差距的指标,训练过程就是通过优化算法降低损失。PyTorch内置多种损失函数,如L1Loss用于计算绝对值差,NLLLoss适用于多分类,MSELoss计算均方差,CrossEntropyLoss结合了LogSoftMax和NLLLoss,BCELoss则用于二分类任务。
摘要由CSDN通过智能技术生成

损失函数基本概念

损失函数是用来评估模型预测值与真实值的不一致程度,它是一个值为非负实数的函数。损失函数越小,模型的鲁棒性就越好,就表示算法越接近意义上的最优。我们训练模型的过程,就是通过不断的迭代计算,使用梯度下降等优化算法不断调整参数,使得损失函数越来越小。PyTorch使用mini-batch来进行计算,因此PyTorch中损失函数计算出来的结果已经对mini-batch取了平均。

常见损失函数及基本用法

PyTorch中损失函数可以通过torch.nn获取,基本用法如下:

# 每个损失函数的构造函数都会有自己的参数 criterion = LossCriterion()loss = criterion(x, y)

PyTorch内置的常用的损失函数主要有如下几种。

  • nn.L1Loss

L1范数损失,计算的是输入x和目标y之间差的绝对值,其中,x和y的维度必须一致,得到的loss维度也是对应一样的。

8525610b77357296c87a969112f12198.png

L1Loss计算公式

nn.L1Loss的基本用法如下。

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值