关于softmax的dim到底计算的是哪里

最新推荐文章于 2023-08-14 16:25:53 发布
最新推荐文章于 2023-08-14 16:25:53 发布
阅读量356 收藏 2
点赞数 2
分类专栏： 机器学习 文章标签： python 人工智能 算法
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_40286308/article/details/125876215
版权

看了一个博客，什么行什么列的，说了一大堆越看越晕。自己好好想了一下，总结出一个简单好用的原则：

dim = x，就变换第 x 维的坐标，固定其他的坐标

比如这个（2，3）的二维 tensor

[0, 1, 2]
[3, 4, 5]

如果用 dim=0 的softmax，那就是变换第 0 维的坐标，固定第 1 维的坐标。
对（0,0）和（1,0）做softmax；即 [0,3]
对（0,1）和（1,1）做softmax；即 [1,4]
对（0,2）和（1,2）做softmax；即 [2,5]

如果用 dim=1 的softmax，那就是变换第 1 维的坐标，固定第 0 维的坐标。
对（0,0）和（0,1）和（0,2）做softmax；即 [0，1，2]
对（1,0）和（1,1）和（1,2）做softmax；即 [3，4，5]

少玩游戏多看代码
关注
  • 2
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
PyTorch: Softmax多分类实战操作
09-16
`F.softmax(x, dim=1)`这行代码会在第二个维度上（即样本的类别维度）应用Softmax，确保每个样本的输出是一个合法的概率分布。 为了训练这个模型，我们需要定义损失函数和优化器。在多分类问题中，常用的损失函数是...
keras-adaptive-softmax:自适应嵌入和softmax
05-29
AdaptiveEmbedding提供可变长度的嵌入，而AdaptiveSoftmax计算输出和生成的嵌入之间的相似性。 import kerasfrom keras_adaptive_softmax import AdaptiveEmbedding , AdaptiveSoftmaxinput_layer = keras . layers...
tensor自身的softmax,log,log_softmax函数
weixin_61445075的博客
01-02 2850
tensor自身的softmax,log,log_softmax函数
pytorch softmax dim=-1
Hello Word!
05-14 2388
dim = -1 和 dim = 1 都是对每一行求softmax 测试：https://www.cnblogs.com/jeshy/p/10933882.html
【Pytorch】| Pytorch中softmax的dim的详细总结
HsinglukLiu的博客
02-28 3100
【Pytorch】| Pytorch中softmax的dim的详细总结关于softmax的理解一维向量：dim=0和dim=-1结果相同，dim=1和dim=2会报错二维张量：dim=1和dim=-1结果相同，dim=2会报错最终结论 作者：刘兴禄，清华大学博士在读 欢迎关注我们的微信公众号 运小筹 关于softmax的理解 Softmax的公式为 softmax(xi)=exi∑iexi \text{softmax} (x_i) = \frac{e^{x_i}}{\sum_{i}{e^{x_i}}} s
【笔记】softmax的计算方法:dim是规定计算相应维度数据的softmax
nyist_yangguang的博客
08-30 554
import torch as t import torch.nn as nn m = nn.Softmax(dim=0) input = t.tensor([1, 3, 3, 4, 5, 6], dtype=t.float32) print(input) output = m(input, ) print(output) import math import numpy z = [1.0, 2.0, 3.0, 4.0, 1.0, 2.0, 3.0] z_exp = [math.exp(i)...
pytorch softmax 中参数 dim 的理解
GISer and Coder
11-14 5960
首先，先看官方定义 dim: A dimension along which Softmax will be computed (so every slice along dim will sum to 1) 具体解释为： 当 dim=0 时，是对每一维度相同位置的数值进行softmax运算； 当 dim=1 时，是对某一维度的列进行softmax运算； 当 dim=2 或 -1 时，是对某一维度的行进行softmax运算； Ref pytorch中tf.nn.functional.softmax(x,d
浅谈pytorch中torch.max和F.softmax函数的维度解释
09-16
这里，`dim=0` 表示按列计算softmax，这意味着每一列的元素会被归一化，使得每一列的和为1。而 `dim=1` 表示按行计算，每一行的元素会归一化为1。 对于三维张量，这个逻辑依然适用。假设有一个形状为 (3, 16, 20) ...
global-self-attention-network:Pytorch实施的全球自我关注网络，这是视觉任务的全关注主干
03-31
结果是一个非常简单的电路，由8个累加值，1个softmax和归一化组成。 安装 $ pip install gsa-pytorch 用法 import torch from gsa_pytorch import GSA gsa = GSA ( dim = 3 , dim_out = 64 , dim_key = 32 , ...
解决pytorch 交叉熵损失输出为负数的问题
09-16
为了解决这个问题，我们需要确保在计算交叉熵损失之前对模型的输出进行softmax操作。Softmax函数将模型的原始输出转换为概率分布，保证所有类别的概率和为1，并且每个类别的概率值在0到1之间。在PyTorch中，可以使用...
logsoftmax（dim=1）是对批量样本中的每个样本取概率，而不是针对每个特征
studyvcmfc的专栏
06-07 2151
torch softmax log_softmax 以及dim的解析
michaelchan1234的博客
04-19 3643
softmax是一种特殊的归一化 归一化0-1的数字 而且都代表他们的占比 概率分配 log就是在上面做了一次log运算 dim代表对1,2，3维矩阵进行归一化计算的是按哪个维度进行计算 数字越大越深入 分别为0,1，2 参考https://blog.csdn.net/sunyueqinghit/article/details/101113251 ...
pytorch中tf.nn.functional.softmax(x,dim = -1)对参数dim的理解
热门推荐
Will_Ye的博客
03-20 3万+
torch.nn.functional.Softmax(input,dim=None) tf.nn.functional.softmax(x,dim = -1)中的参数dim是指维度的意思，设置这个参数时会遇到0,1，2，-1等情况，特别是对2和-1不熟悉，细究了一下这个问题 查了一下API手册，是指最后一行的意思。原文： dim (python:int) – A dimension along ...
Pytorch中torch.nn.Softmax的dim参数含义
Left_control_right的博客
10-22 2267
自己搞了一晚上终于搞明白了，下文说的很透彻，做个记录，方便以后翻阅 Pytorch中torch.nn.Softmax的dim参数含义
对softmax中dim的理解
最新发布
qq_51206550的博客
08-14 166
设定的维数dim是几，就其它维先保持不变，然后这一维从0遍历到N，求这一维的softmax，之后运算其它维度，dim这一维再从0~N求一下。就是每次都是dim=1这一维从0到N-1来算softmax 剩下的维度不变，然后剩下的维度变一下，再把dim这一维算一下。算的时候先[0,0,0,0],[0,1,0,0],[0,2,0,0],...,[0,N-1,0,0]之后算[1,0,0,0],[1,1,0,0],[1,2,0,0],...,[1,N-1,0,0]比如tensor一共有4维，dim=1。
F.softmax函数dim解读
WAWA战士的博客
05-09 4698
F.softmax(score, dim=1) dim=1就是对score矩阵中 所有第1维下标不同，其他维下标均相同的元素进行操作（softmax） 比如a[0][8][15]和a[7][8][15]都会被选中，同时进行同一操作 而a[0][8][15]和a[0][8][15]不会 a[0][8][15]和a[0][7][15]也不会 ...
Pytorch nn.Softmax(dim=?) 详解
我有明珠一颗的博客
05-12 2399
有了这个d0,d1,d2,d3...的维度说明之后，我们可以去理解任意一个tensor的Softmax运算，万变不离其宗。
softmax(dim)
07-28
回答: 在PyTorch中，softmax(dim)函数是用来进行多分类的。它将输入张量进行缩放，使得输出张量的元素位于\[0,1\]范围内，并且所有元素的和为1。参数dim表示在哪个维度上进行计算，即沿着该维度的每个切片的元素和为...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值