Pytorch Softmax用法

最新推荐文章于 2024-09-07 14:53:28 发布

赛中原

最新推荐文章于 2024-09-07 14:53:28 发布

阅读量3.3w

点赞数 23

分类专栏： pytorch 文章标签： pytorch 深度学习神经网络

本文链接：https://blog.csdn.net/sinat_40258777/article/details/120275989

版权

pytorch 专栏收录该内容

3 篇文章 1 订阅

订阅专栏

本文介绍了PyTorch中Softmax函数的使用，包括torch.nn.Softmax和torch.nn.functional.softmax，详细解释了dim参数的作用，并通过代码示例展示了不同维度的张量如何进行softmax操作。此外，还提及了log_softmax的使用场景，特别是在数值较大时避免溢出的情况。

摘要由CSDN通过智能技术生成

Pytorch Softmax用法

pytorch中的softmax主要存在于两个包中分别是：
torch.nn.Softmax(dim=None)
torch.nn.functional.softmax(input, dim=None, _stacklevel=3, dtype=None)
下面分别介绍其用法：
torch.nn.Softmax
torch.nn.Softmax中只要一个参数：来制定归一化维度如果是dim=0指代的是行，dim=1指代的是列。

import torch 
import torch.nn as nn
input_0 = torch.Tensor([1,2,3,4])
input_1 = torch.Tensor([[1,2,3,4],[5,6,7,8]])
#规定不同方向的softmax
softmax_0 = nn.Softmax(dim=0)
softmax_1 = nn.Softmax(dim=1 )
#对不同维度的张量试验
output_0 = softmax_0(input_0)
output_1 = softmax_1(input_1)
output_2 = softmax_0(input_1)
#输出
print(output_0)
print(output_1)
print(output_2)

输出：

tensor([0.0321, 0.0871, 0.2369, 0.6439])
tensor([[0.0321, 0.0871, 0.2369, 0.6439],
        [0.0321, 0.0871, 0.2369, 0.6439]])
tensor([[0.0180, 0.0180, 0.0180, 0.0180],
        [0.9820, 0.9820, 0.9820, 0.9820]])

torch.nn.functional.softmax
与上面介绍不同的是torch.nn.Softmax,多了一个参数(input：输入的张量）

import torch 
import  torch.nn.functional as F
input_0 = torch.Tensor([1,2,3,4])
input_1 = torch.Tensor([[1,2,3,4],[5,6,7,8]])
output_0 = F.softmax(input_0)
output_1 = F.softmax(input_1,dim=0)
output_2 = F.softmax(input_1,dim=1)
print(output_0)
print(output_1)
print(output_2)

输出

tensor([0.0321, 0.0871, 0.2369, 0.6439])
tensor([[0.0180, 0.0180, 0.0180, 0.0180],
        [0.9820, 0.9820, 0.9820, 0.9820]])
tensor([[0.0321, 0.0871, 0.2369, 0.6439],
        [0.0321, 0.0871, 0.2369, 0.6439]])