对softmax中dim的理解

前方是一个大佬的阐述，比较口语！

设定的维数dim是几，就其它维先保持不变，然后这一维从0遍历到N，求这一维的softmax，之后运算其它维度，dim这一维再从0~N求一下。直到其它维度的全排列都算出来。

二维tensor的最后一维是列 所以每一列做完softmax加起来等于1。

比如tensor一共有4维，dim=1
算的时候先[0,0,0,0],[0,1,0,0],[0,2,0,0],...,[0,N-1,0,0]
之后算[1,0,0,0],[1,1,0,0],[1,2,0,0],...,[1,N-1,0,0]
[2,0,0,0],[2,1,0,0],[2,2,0,0],...,[2,N-1,0,0]
...
[0,0,1,0],[0,1,1,0],[0,2,1,0],...,[0,N-1,1,0]
[1,0,1,0],[1,1,1,0],[1,2,1,0],...,[1,N-1,1,0]
[2,0,1,0],[2,1,1,0],[2,2,1,0],...,[2,N-1,1,0]
...
[N-1,0,N-1,N-1],[N-1,1,N-1,N-1],[N-1,2,N-1,N-1],...,[N-1,N-1,N-1,N-1]

就是每次都是dim=1这一维从0到N-1来算softmax 剩下的维度不变，然后剩下的维度变一下，再把dim这一维算一下。

dim=-1只是python里索引约定俗成的规则 索引-1代表倒数第1个维 -2代表倒数第2。二维就是先固定行(第0维)数不变，列(第1维)从0~N-1，所以看起来是每一行做softmax。