NLP·Pytorch使用常用的函数
由于刚开始写pytorch的代码,有很多函数的用法都是第一次使用,因此在这里总结下来,方面后续查看
矩阵乘法
1.二维矩阵乘法
torch.mm(mat1,mat2,out=None)
其中,
m
a
t
1
∈
R
n
×
m
mat1\in R^{ n \times m}
mat1∈Rn×m,
m
a
t
2
∈
R
m
×
d
mat2\in R^{ m \times d}
mat2∈Rm×d,输出的
o
u
t
∈
R
n
×
d
out \in R^{ n \times d}
out∈Rn×d
该函数一般只用来计算两个二维矩阵的矩阵乘法,并且不支持broadcast操作。
2.三维带batch的矩阵乘法
torch.bmm(bmat1,bmat2,out=None)
其中,
b
m
a
t
1
∈
R
b
×
n
×
m
bmat1\in R^{ b \times n \times m}
bmat1∈Rb×n×m,
b
m
a
t
2
∈
R
b
×
m
×
d
bmat2\in R^{b \times m \times d}
bmat2∈Rb×m×d,输出的
o
u
t
∈
R
b
×
n
×
d
out \in R^{b \times n \times d}
out∈Rb×n×d
该函数的两个输入必须是三维矩阵并且第一维相同(表示Batch维度), 不支持broadcast操作