PyTorch Tips(二)

归并操作
此类操作会使输出形状小于输入形状，并可以沿着某一维度进行指定操作。如加法sum，既可以计算整个tensor的和，也可以计算tensor中每一行或每一列的和。常用的归并操作如下表所示：

| 函数 | 功能 |
| norm/dist | 范数/距离 |
| mean/sum/median/mode | 均值/和/中位数/众数|
| std/var | 标准差/方差|
| cumsum/cumprod | 累加/累乘 |

以上大多数函数都有一个参数dim,用来指定这些操作是在哪个维度上执行的。关于dim（对应于numpy中的axis）
的解释众说纷纭，这里提供一个简单的记忆方式。
假设输入的形状是（m,n,k）:
a.如果指定dim=0,输出的形状就是（1,n,k）或（n,k）;
b.如果指定dim=1,输出的形状就是（m,1,k）或（m,k）;
c.如果指定dim=2,输出的形状就是（m,n,1）或（m,n）;
size中是否有“1”，取决于参数keepdim,keepdim=True会保留维度1.从PyTorch0.2.0版本起，keepdim默认为False。注意，以上只是经验总结，并非所有函数都符合这种形状变化，如cumsum。

代码如下：

from __future__ import print_function
import torch as t


b = t.ones(2,3)
b.sum(dim = 0,keepdim = True)
b.sum(dim = 0,keepdim = False)
b.sum(dim = 1)


a = t.arange(0,6).view(2,3)
print(a)
a.cumsum(dim = 1)

输出如下：

b.sum(dim = 0,keepdim = True)
Out[3]: tensor([[2., 2., 2.]])

b.sum(dim = 0,keepdim = False)
Out[4]: tensor([2., 2., 2.])

b.sum(dim = 1)
Out[5]: tensor([3., 3.])

a = t.arange(0,6).view(2,3)
print(a)
tensor([[0, 1, 2],
        [3, 4, 5]])

a.cumsum(dim = 1)
Out[7]: 
tensor([[ 0,  1,  3],
        [ 3,  7, 12]])