均方差损失函数
- loss, x, y 可以是向量或者矩阵,i 是下标。
- x, y 可以是向量或者矩阵,i 是下标。
- 很多的loss函数都有size_average和reduce两个布尔类型的参数。因为一般损失函数都是直接计算 batch 的数据,因此返回的loss 结果都是维度为 (batch_size, ) 的向量。(说的是一般的情况,这里返回的没有维度为(batch_size,)这种情况)
nn.MSELoss()参数介绍
- (1)如果 reduction = 'none',直接返回向量形式的 loss
- (2)如果 reduction ≠ 'none',那么 loss 返回的是标量
-
- a)如果 reduction='mean',返回 loss.mean(); 注意:默认情况下, reduction='mean'
- b)如果 reduction='sum',返回 loss.sum();
代码
import torchimport numpy as npa = np.array([[1, 2], [3, 4]])b = np.array([[2, 3], [4, 4]])inputs = torch.autograd.Variable(torch.from_numpy(a))targets = torch.autograd.Variable(torch.from_numpy(b))# ****************************************************# 1、返回向量# ****************************************************loss_fn_1 = torch.nn.MSELoss(reduction='none')# 将Variable类型统一为float()(tensor类型也是调用xxx.float())loss_1 = loss_fn_1(inputs.float(), targets.float()) print(loss_1)# ****************************************************# 2、返回平均值# ****************************************************loss_fn_2 = torch.nn.MSELoss(reduction='mean')# 将Variable类型统一为float()(tensor类型也是调用xxx.float())loss_2 = loss_fn_2(inputs.float(), targets.float()) print(loss_2)# ****************************************************# 3、默认情况下:返回平均值# ****************************************************loss_fn_3 = torch.nn.MSELoss()# 将Variable类型统一为float()(tensor类型也是调用xxx.float())loss_3 = loss_fn_3(inputs.float(), targets.float()) print('*'*30)print(loss_3) # tensor(0.7500)print(loss_3.shape) # torch.Size([])print(type(loss_3)) # # .item()方法 是得到一个元素张量里面的元素值,具体就是 用于将一个零维张量转换成浮点数print(loss_3.item()) # 0.75 print(type(loss_3.item())) # print('*'*30)# *****************************************************# 4、返会求和值# *****************************************************loss_fn_4 = torch.nn.MSELoss(reduction='sum')# 将Variable类型统一为float()(tensor类型也是调用xxx.float())loss_4 = loss_fn_4(inputs.float(), targets.float()) print(loss_4)
运行结果