关于torch.dist(p=2)和nn.MESLoss的区分

最新推荐文章于 2024-06-14 16:28:49 发布

Wsyoneself

最新推荐文章于 2024-06-14 16:28:49 发布

阅读量1.6k

点赞数 1

分类专栏： deeplearning 文章标签：深度学习 pytorch 机器学习

本文链接：https://blog.csdn.net/weixin_45647721/article/details/126955564

版权

deeplearning 专栏收录该内容

99 篇文章 10 订阅

订阅专栏

nn.MESLoss:

使用np实现mes_loss更加深入理解：这是对于不同设置参数的实现

def mse_loss(x, y, reduction='mean'):
    dif = np.square(x - y)
    if reduction == 'mean':
        return np.mean(dif)
    elif reduction == 'sum':
        return np.sum(dif)
    return dif
#--可使用下方代码测试：
a=np.array([[1, 2], [3, 4]],dtype=np.float32)
b=np.array([[3, 5], [8, 6]],dtype=np.float32)

result=mse_loss(a,b,reduction='sum')
print("result",result)

torch.nn.MSELoss(reduction='none')实际返回的只是上方代码中的dif向量，测试代码：

a_t = torch.tensor([[1, 2], [3, 4]], dtype=torch.float32)
b_t = torch.tensor([[3, 5], [8, 6]], dtype=torch.float32)
loss_fn1 = torch.nn.MSELoss(reduction='none')
loss1 = loss_fn1(a_t, b_t)
print("loss1",loss1)

torch.dist
1. 参考手册：https://pytorch.org/docs/stable/generated/torch.dist.html
2. 其求的是一个范数，关于L2范数可参考损失函数笔记（1）_Wsyoneself的博客-CSDN博客_l2误差
3. 细节其实际返回的是上方np实现的mes_loss参数设置为sum得到的结果再开根的tensor，测试代码：
```
a_t = torch.tensor([[1, 2], [3, 4]], dtype=torch.float32)
b_t = torch.tensor([[3, 5], [8, 6]], dtype=torch.float32)
result2=torch.dist(a_t,b_t,2)
print("result2",result2)
```