【笔记】torch.nn.functional as F F.mse_loss()：参数reduction、size_average、reduce

最新推荐文章于 2024-02-28 16:15:06 发布
最新推荐文章于 2024-02-28 16:15:06 发布
阅读量1.7w 收藏 18
点赞数 13
分类专栏： 小菜鸡加油
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/nyist_yangguang/article/details/119217125
版权

eg1：

eg2：

eg3:

 eg4：

程序猿的探索之路
关注
  • 13
    点赞
  • 踩
  • 18
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 7
    评论
专栏目录
pytorch中的MSELoss
u013341645的博客
08-26 7737
MSELoss的定义： 其中，N是batch_size，如果reduce设置为true，则： 求和运算符计算后，仍会对除以n；如果size_average设置为False后，就会避免除以N； 参数： size_average (bool, optional)：已经弃用，默认loss在对输入batch计算损失后，会求平均值。对于sample中有多个元素时，如果size_average设置为false，loss则是对每个batch进行求和，当reduce设置为False时，该参数就会被设置为Fa
损失函数及回归
m0_52073096的博客
10-31 854
中心损失函数 中心损失主要主要用于减少类内距离，虽然只是减少了累内距离，效果上却可以表现出累内距离小了，类间距离就可以增大的效果。该损失不可以直接使用，需要配合传统的softmax loss一起使用。可以起到比单纯softmax loss更好的分类效果。 ...
torch.nn.MSELoss
weixin_44682222的博客
09-11 2666
*CLASS* torch.nn.MSELoss(size_average=None, reduce=None, reduction=mean) torch.nn.functional.mse_loss(input, target, size_average=None, reduce=None, reduction=mean) → Tensor 参数 size_average: 默认为True, 计算一个batch中所有loss的均值；reduce为 False时，忽略这个参数； reduce： 默
激活函数和loss
qq_45699555的博客
06-28 1611
激活函数和loss的简单介绍
loss函数之L1Loss，MSELoss，SmoothL1Loss, HuberLoss
ltochange的博客
06-14 8517
L1Loss 平均绝对误差（MAE），用于回归模型 对于包含NNN个样本的batch数据 D(x,y)D(x, y)D(x,y)，losslossloss计算如下: loss=1N∑n=1Nlnloss=\frac{1}{N} \sum_{n=1}^{N} l_{n}loss=N1​∑n=1N​ln​ 其中，ln=∣xn−yn∣l_{n}=\left|x_{n}-y_{n}\right|ln​=∣xn​−yn​∣ class L1Loss(_Loss): __constants__ = ['redu
梯度、激活函数 及Loss的梯度
onlywishes的博客
02-10 2419
梯度 梯度是对函数求偏导，在组合，是向量有方向，导数是没有方向的 常见函数的求导 激活函数 Sigmoid / Logistic 将数据压缩在（0,1）之间 sigmoid函数梯度 使用 import torch a = torch.linspace(-100,100,10) #生成10个线性间隔的数 b = torch.sigmoid(a) print(a) print(b) tensor([-100.0000, ...
pytorch教程之损失函数详解——多种定义损失函数的方法
热门推荐
MIss-Y的博客
07-09 3万+
前言：前面的系列文章已经详细介绍了使用torch.nn.Module来实现自己定义的模型、自定义层，本文将继续来说明如何自定义损失函数，需要明确一个观点，不管是定义层还是损失函数，方法有很多，但是通过统一的接口nn.Module是最便于查看的，这也是pytorch的优点之一，模型、层、损失函数的定义具有统一性，都是通过Module类来完成，不像tensorflow那样不规范。具体可以参考前...
MSELOSS
最新发布
weixin_46050774的博客
02-28 807
通过最小化均方误差损失，可以使模型的预测结果与真实值之间的差异尽可能小，从而提高模型的预测准确性。均方误差损失函数的计算方式是对预测值与真实值之间的差异进行平方，然后取平均值。具体地说，对于一个样本，假设预测值为 y1，真实值为 y2，则均方误差为 (y1-y2)的平方。MSELoss 是均方误差损失函数（Mean Squared Error Loss）的缩写，它是深度学习中常用的一种损失函数，用于回归问题。其中，n是样本数量， y_i1 是第 i 个样本的真实值，yi2是第 i 个样本的预测值。
PyTorch教程（九）：损失函数与Loss的梯度
vincent_duan的专栏
02-22 7529
均方差Mean Squared Error（MSE） MSE基本形式： loss=∑[y−(xw+b)]2 loss = \sum[y-(xw+b)]^2 loss=∑[y−(xw+b)]2 这里的模型使用非常简单的线性感知机，如果使用其他的网络，则修改为loss=∑[y−f(x;w,b)]2loss = \sum[y-f(x;w,b)]^2loss=∑[y−f(x;w,b)]2 需要注意的是，这里的均方差MSE和L2-norm是有区别的： l2−norm=∑(y1−y2)2 l2-norm=\sqrt{\
Pytorch遇到的坑：MSEloss的输入问题
To be a better man
09-26 1440
Pytorch遇到的坑：为什么模型训练时，L1loss损失无法下降？
PyTorch里面的torch.nn.Parameter()详解
09-18
在代码示例中提到的`self.v = torch.nn.Parameter(torch.FloatTensor(hidden_size))`，这里的`self.v`就被转换成了一个可训练的参数，它将作为模型的一部分参与训练过程。这意味着，在反向传播和优化过程中，`self.v...
Pythorch中torch.nn.LSTM()参数详解
04-27
Pythorch中torch.nn.LSTM()参数详解；Pythorch中torch.nn.LSTM()参数详解；Pythorch中torch.nn.LSTM()参数详解；Pythorch中torch.nn.LSTM()参数详解；Pythorch中torch.nn.LSTM()参数详解；Pythorch中torch.nn.LSTM()...
torch_nn_functional_conv2d_problem:torch.nn.functional.conv2d在ARM和x86_64体系结构上的不同输出
04-11
应用相同的输入和参数时，torch.nn.functional.conv2d在ARM和x86_64体系结构上的输出不同。 运行脚本：python3functional_conv2d_example.py已经在results /文件夹中提供了已计算的结果。 在output_tensor_arm.txt...
Pytorch中torch.nn的损失函数
12-21
### 一、`torch.nn.BCELoss(weight=None, size_average=True)` **二分类交叉熵损失（Binary CrossEntropy Loss）**，通常用于二分类问题。它将预测概率`y`和实际标签`target`（都是在0到1之间）作为输入，计算每个...
激活函数、loss
weixin_45797937的博客
03-05 405
激活函数 import torch a = torch.linspace(-100,100,10) a torch.sigmoid(a)#激活函数 a=torch.linsapce(-1,1,10) torch.tanh(a) torch.relu(a) from torch.nn import function as F F.relu(a) loss import torch x=torch.ones(1) x w=torch.full([1],2) w from torch.nn import
Pytorch-均方差损失函数和交叉熵损失函数
gy77
10-10 4384
均方差损失函数mse_loss()与交叉熵损失函数cross_entropy() 1.均方差损失函数mse_loss() 均方差损失函数是预测数据和原始数据对应点误差的平方和的均值。 \[MSE=\frac{1}{N}( y^`−y)^2 \] N为样本个数，y'为预测数值，y为正确数值。 代码实例： import torch import torch.nn.functional ...
均方误差损失（MSE loss）—最常用的回归（Regression）损失
Winterfell01的博客
09-09 3048
mse loss介绍
关于感知机、链式法则and梯度下降
onlywishes的博客
02-12 431
关于感知机，链式法则，梯度下降
【pytorch】loss 不下降记录
xll_bit的博客
04-01 3919
在使用pytorch进行训练的时候，loss一直维持在同一个很大的数附近震荡，很明显是模型有问题，经过了长时间的查找，才发现pytorch早已提示了错误，而自己忽略了。· /home/anaconda3/envs/M/lib/python3.6/site-packages/torch/nn/modules/loss.py:528: UserWarning: Using a target size (torch.Size([256])) that is different to the input siz
torch.nn.functional.mse_loss 的代码
06-06
以下是 `torch.nn.functional.mse_loss` 的代码实现： ```python def mse_loss(input, target, size_average=None, reduce=None, reduction='mean'): if not (target.size() == input.size()): warnings.warn("Using a target size ({}) that is different to the input size ({}). " "This will likely lead to incorrect results due to broadcasting. " "Please ensure they have the same size.".format(target.size(), input.size()), stacklevel=2) if size_average is not None or reduce is not None: reduction = _Reduction.legacy_get_string(size_average, reduce) if target.requires_grad: ret = (input - target) ** 2 if reduction != 'none': ret = torch.mean(ret) if reduction == 'mean' else torch.sum(ret) else: expanded_input, expanded_target = torch.broadcast_tensors(input, target) ret = torch._C._nn.mse_loss(expanded_input, expanded_target, _Reduction.get_enum(reduction)) return ret ``` 该函数计算输入 `input` 和目标 `target` 之间的均方误差（MSE），返回值为标量张量。可选参数 `size_average` 和 `reduce` 被弃用，应使用 `reduction` 参数指定归约方式。参数说明如下： - `input`：输入张量。 - `target`：目标张量，与输入张量形状相同。 - `size_average`：已弃用。 - `reduce`：已弃用。 - `reduction`：指定用于计算输出张量的归约方式，可选值为 `'none'`、`'mean'` 和 `'sum'`，默认为 `'mean'`。 当 `target.requires_grad=True` 时，计算 `input` 与 `target` 之间的 MSE，并根据 `reduction` 的值进行归约；否则，将 `input` 和 `target` 扩展为相同的形状，再调用 C++ 实现的 `mse_loss` 计算 MSE，并根据 `reduction` 的值进行归约。需要注意的是，如果 `target` 与 `input` 形状不同，该函数会发出警告。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 7
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

程序猿的探索之路

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值