可以理解为 unsqueeze 和 expand的结合 先扩张维度然后复制 (满足自动扩张,不需要自己手动操作)
Feature map:【4,32,14,14】
Bias 【32,1,1】=》【1,32,1,1】=》【4,32,14,14】
满足broadcasting的条件:
1:最后一维匹配,前面维度随意 小维度匹配,大维度随意
拼接拆分
Cat 拼接
stack拼接 会创建一个新的维度 适合的情况:
Split 按长度拆分
Chunk 按数量拆分
torch的数学运算
Add/minus/multiply/divide 加减乘除
Matmul 矩阵相乘 Torch.matmul 方便简捷易懂,多维矩阵只取后面的两维
Pow 次方
Sqrt/rsqrt 平方根/开方根
Round 近似运算
Exp/log 幂次放/幂次方根
clamp 裁剪
tensor的统计属性
norm 范数 norm-p 几范数
mean sum min max prod (累乘)
argmax argmin
dim keepdim 、
高阶属性 Top-k or k-th kthvalue
compare
> >= < <= != ==
torch.eq(a,b)
Where
gather 收集 其实就是查表得过程