pytorch的nn.MSELoss损失函数返回值介绍

1、均方差损失函数

• loss, x, y 可以是向量或者矩阵，i 是下标。

• 很多的loss函数都有size_average和reduce两个布尔类型的参数。因为一般损失函数都是直接计算 batch 的数据，因此返回的loss 结果都是维度为 (batch_size, ) 的向量。(说的是一般的情况，这里返回的没有维度为(batch_size,)这种情况)

2、nn.MSELoss()参数介绍

• (1)如果 reduction = ‘none’，直接返回向量形式的 loss
• (2)如果 reduction ≠ ‘none’，那么 loss 返回的是标量
  　　a)如果 reduction=‘mean’，返回 loss.mean(); 注意：默认情况下， reduction=‘mean’
  　　b)如果 reduction=‘sum’，返回 loss.sum();

3、代码

import torch
import numpy as np

a = np.array([[1, 2], [3, 4]])
b = np.array([[2, 3], [4, 4]])
inputs = torch.autograd.Variable(torch.from_numpy(a))
targets = torch.autograd.Variable(torch.from_numpy(b))

# ****************************************************
# 1、返回向量
# ****************************************************
loss_fn_1 = torch.nn.MSELoss(reduction='none')
# 将Variable类型统一为float()（tensor类型也是调用xxx.float()）
loss_1 = loss_fn_1(inputs.float(), targets.float())         
print(loss_1)

# ****************************************************
# 2、返回平均值
# ****************************************************
loss_fn_2 = torch.nn.MSELoss(reduction='mean')
# 将Variable类型统一为float()（tensor类型也是调用xxx.float()）
loss_2 = loss_fn_2(inputs.float(), targets.float())         
print(loss_2)

# ****************************************************
# 3、默认情况下：返回平均值
# ****************************************************
loss_fn_3 = torch.nn.MSELoss()
# 将Variable类型统一为float()（tensor类型也是调用xxx.float()）
loss_3 = loss_fn_3(inputs.float(), targets.float())         
print('*'*30)
print(loss_3)               # tensor(0.7500)
print(loss_3.shape)         # torch.Size([])
print(type(loss_3))         # <class 'torch.Tensor'>
# .item()方法 是得到一个元素张量里面的元素值，具体就是 用于将一个零维张量转换成浮点数
print(loss_3.item())        # 0.75  
print(type(loss_3.item()))  # <class 'float'>
print('*'*30)
# *****************************************************
# 4、返会求和值
# *****************************************************
loss_fn_4 = torch.nn.MSELoss(reduction='sum')
# 将Variable类型统一为float()（tensor类型也是调用xxx.float()）
loss_4 = loss_fn_4(inputs.float(), targets.float())         
print(loss_4)

4、运行结果