pytorch:nn.Softmax()

最新推荐文章于 2024-11-29 19:51:13 发布

缦旋律

最新推荐文章于 2024-11-29 19:51:13 发布

阅读量3.2w

点赞数 89

分类专栏： pytorch

小陈一行一行地敲出来的啦~

本文链接：https://blog.csdn.net/weixin_41391619/article/details/104823086

版权

本文详细介绍了 PyTorch 中 torch.nn.Softmax() 函数的 dim 参数用法。通过举例说明了 dim=0、dim=1 和 dim=2 时，softmax 函数如何作用于不同维度的数据，解释了每个维度设置后概率分布的计算过程，突出了该参数在神经网络中对激活值归一化的重要性。

摘要由CSDN通过智能技术生成

本篇主要分析softmax函数中的dim参数
首先介绍一下softmax函数：
设 x = [1,2,3]
则softmax（x）= [ $\frac{e^1}{e^1+e^2+e^3}$ , $\frac{e^2}{e^1+e^2+e^3}$ , $\frac{e^3}{e^1+e^2+e^3}$ ]

接下来分析torch.nn里面的softmax函数

y = torch.rand(size=[2,2,3])
print(y)
#y的size是2,2,3。可以看成有两张表，每张表2行3列

tensor([[[0.7536, 0.2712, 0.4176],
         [0.2008, 0.9512, 0.4904]],

        [[0.2232, 0.7459, 0.9858],
         [0.9141, 0.0604, 0.4307]]])

net_1 = nn.Softmax(dim=0)
net_2 = nn.Softmax(dim=1)
net_3 = nn.Softmax(dim=2)
print('dim=0的结果是：\n',net_1(y),"\n"

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

缦旋律

关注关注

89
点赞
踩
168

收藏

觉得还不错? 一键收藏
12
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

分类任务常用激活函数之nn.Softmax函数参数dim理解（Pytorch）

NorthSmile的博客

08-29

4327

2）dim=1表示该操作将在输入张量的第1维进行计算，而此张量第1维长度为3，故计算实际是沿着第1维方向，将整个张量划分为2×4个切片，每个切片包含三个元素，并分别对每个切片进行softmax计算，使得这三个元素和为1.3）dim=2表示该操作将在输入张量的第2维进行计算，而此张量第2维长度为4，故计算实际是沿着第2维方向，将整个张量划分为2×3个切片，每个切片包含四个元素，并分别对每个切片进行softmax计算，使得这四个元素和为1.该函数使得输入中所有数值变为。.........

Pytorch中 nn.Transformer的使用详解与Transformer的黑盒讲解

最新发布

老皮的博客

11-29

1450

AI大模型作为人工智能领域的重要技术突破，正成为推动各行各业创新和转型的关键力量。抓住AI大模型的风口，掌握AI大模型的知识和技能将变得越来越重要。学习AI大模型是一个系统的过程，需要从基础开始，逐步深入到更高级的技术。这里给大家精心整理了一份全面的AI大模型学习资源，包括：AI大模型全套学习路线图（从入门到实战）、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等，资料免费分享！

PyTorch-----torch.nn.Softmax()函数

xinxin的博客

03-27

4097

是 PyTorch 中的一个类，用于计算 softmax 函数。softmax 函数常用于多分类问题中，将一个具有任意实数值的向量转换为一个概率分布，使得每个元素都在 (0, 1) 之间，并且所有元素的和为 1。其中，zi 是 logits 向量 z 的第 i 个元素，n 是 logits 向量 z 的长度（即类别的数量），e 是自然对数的底（约等于 2.71828）。Softmax 函数的一个关键特性是它的输出是一个概率分布，即所有输出值的和为 1，因此可以用于表示多个互斥的类别的概率。

nn.Softmax

芒果干的博客

11-25

6320

nn.Softmax(dim=None) dim: 计算的维度 A dimension along which Softmax will be computed (so every slice along dim will sum to 1). 用softmax函数将N维输入进行归一化，归一化之后每个输出的Tensor范围在[0, 1]，并且归一化的那一维和为1 Applies the Softmax function to an n-dimensional input Tensor rescalin

Pytorch nn.Softmax(dim=?) 详解

我有明珠一颗的博客

05-12

2984

有了这个d0,d1,d2,d3...的维度说明之后，我们可以去理解任意一个tensor的Softmax运算，万变不离其宗。

Pytorch torch.nn.Softmax的dim参数

m0_50951713的博客

06-13

770

Pytorch torch.nn.Softmax的dim参数

【Pytorch实用教程】Pytorch中nn.Sequential的用法

若北辰

08-06

443

`nn.Sequential` 是 PyTorch 中用于`构建神经网络`的一种`容器类`，它可以`按顺序封装`多个子模块（层），并依次将输入数据传递给这些子模块。这样可以简化模型的定义，使得代码更加`简洁`和`易读`。

【基础知识】pytorch:nn.Softmax()

菜鸟起飞

03-05

1万+

转载：https://blog.csdn.net/weixin_41391619/article/details/104823086 这篇讲的很清楚，转一下本篇主要分析softmax函数中的dim参数, 首先介绍一下softmax函数：设则接下来分析torch.nn里面的softmax函数 y = torch.tensor([[[1.,2.,3.],[4.,5.,6.]],[[7.,8.,9.],[10.,11.,12.]]]) #y的size是2,2,3。可以看成有两张表，每张表2..

nn.softmax

weixin_45186425的博客

03-05

3130

nn.softmax用法记录

pytorch 的nn.Softmax(dim=1)

qq_41166909的博客

02-21

3317

nn.Softmax(dim=0) 是每一列和为1. nn.Softmax(dim=1) 是每一行和为1. nn.Softmax(dim) 的理解 - 简书使用pytorch框架进行神经网络训练时，涉及到分类问题，就需要使用softmax函数，这里以二分类为例，介绍nn.Softmax()函数中，参数的含义。 1. 新建一个2x2大小的张量，一行理解成一个样本经过前面网络计算后的输出（1x2），则batch_size是2。 import numpy as np import torch impor

nn.Softmax(dim=?)

weixin_45022556的博客

08-24

1126

对nn.softmax（）的超详解释！自带图解与计算验证，代码已列好，小白入门超简单

【机器学习】tf.nn.softmax

littlemichelle

04-29

4897

1、概念 softmax是一个激活函数。 tf.nn.softmax( logits, # 输入：全连接层（往往是模型的最后一层）的值，一般代码中叫做logits axis = None, name = None dim = None ) 作用：softmax函数的作用就是归一化。输入：全连接层（往往是模型的最后一层）的值，一般代码中叫做logits 输出：归一化的值，含义是属于该位置的概率，一般代码叫做probs,例如输出[0.4, 0.1, 0.2, 0..

深入浅出Pytorch函数——torch.nn.Softmax

冯·诺依曼

07-23

9049

将Softmax函数应用于n维输入张量，重新缩放它们，使得n维输出张量的元素位于01的范围内，且总和为1。当输入张量是稀疏张量时，未指定的值被视为-inf。

python中的torch.nn.Softmax() 用法和例子 dim=1 dim=2

longjiaxin1314的博客

03-21

6894

当张量的形状为二维时，dim=1 和 dim=2 的效果类似，因为此时张量的行数等于时间步数，列数等于特征数。在这种情况下，dim=1 和 dim=2 都将每一行的值进行归一化，输出的结果相同。但是当张量的形状为三维及以上时，dim=1 和 dim=2 的效果就不同了。在序列到序列的任务中，通常需要对每个时间步上的输出进行归一化，因此需要使用 torch.nn.Softmax(dim=2)。在分类任务中，通常需要对每个样本的输出进行归一化，因此需要使用 torch.nn.Softmax(dim=1)。

torch.nn.Softmax(dim=0,1,2)

keith的博客

12-12

9944

对torch.nn.Softmax函数的仔细讲解

tensorflow常用函数之tf.nn.softmax

12-13

1191

文章来源:http://www.datacups.com/post/35 关于softmax的详细说明，请看Softmax。通过Softmax回归，将logistic的预测二分类的概率的问题推广到了n分类的概率的问题。通过公式可以看出当月分类的个数变为2时，Softmax回归又退...

nn.functional.softmax()与nn.softmax的区别

05-22

在PyTorch中，`nn.functional.softmax()`和`nn.softmax()`都可以用于计算softmax函数，但它们的使用方式略有不同。 `nn.functional.softmax()`是一个函数，可以像其他普通的Python函数一样直接调用，例如： ``` import torch.nn.functional as F output = F.softmax(input, dim=1) ``` `nn.softmax()`是一个模块，需要先实例化成一个对象，然后再调用其中的方法，例如： ``` import torch.nn as nn softmax = nn.Softmax(dim=1) output = softmax(input) ``` 在使用上，`nn.functional.softmax()`是一个纯函数，它不包含任何可学习的参数，因此在训练过程中不会对参数进行更新。而`nn.softmax()`是一个带有可学习参数的模块，因此在训练过程中会对参数进行更新。另外需要注意的是，由于`nn.functional.softmax()`不包含可学习的参数，因此在使用时需要手动指定`dim`参数来指定在哪个维度上进行softmax。而`nn.softmax()`在实例化时就已经指定了`dim`参数，因此在调用时不需要再次指定。