【torch.einsum】

最新推荐文章于 2024-07-13 12:06:45 发布

腾阳山泥若

最新推荐文章于 2024-07-13 12:06:45 发布

阅读量649

点赞数

分类专栏： pytorch

本文链接：https://blog.csdn.net/weixin_43486780/article/details/113835293

版权

pytorch 专栏收录该内容

16 篇文章 0 订阅

订阅专栏

本文介绍了如何使用PyTorch的torch.einsum进行矩阵转置、点乘和乘法操作，通过字符串表达式实现高效简洁的张量运算，包括矩阵转置的'ij->ji'、哈达玛积的'ij,ij->ij'以及矩阵乘法的'ik,kj->ij'示例。

摘要由CSDN通过智能技术生成

参考：https://www.cnblogs.com/mengnan/p/10319701.html

爱因斯坦简记法，能简洁表示各种矩阵向量的操作，例如矩阵转置、乘法、求和等等，pytorch中调用API为torch.einsum，第一个参数是字符串，表示对张量的操作，定义不同字符串表示不同操作

例子

矩阵转置

字符串为ij->ji，表示将张量中的元素ij（第i行第j列）变成元素ji

a = torch.tensor([
    [1, 2],
    [2, 3],
    [4, 5],
    [2, 6]
])
b = torch.einsum('ij->ji', a)
print(b)
>>> tensor([[1, 2, 4, 2],
            [2, 3, 5, 6]])

矩阵点乘（哈达玛积）

将矩阵对应位置的元素相乘，字符串ij,ij->ij表示将两个矩阵的ij元素相乘得到元素ij，貌似只能是相乘不能是相加？

a = torch.tensor([
    [1, 2],
    [2, 3],
    [4, 5],
    [2, 6]
])
b = torch.tensor([
    [2, 6],
    [2, 4],
    [3, 1],
    [2, 2]
])
c = torch.einsum('ij,ij->ij', a, b)
print(c)
>>> tensor([[ 2, 12],
	        [ 4, 12],
	        [12,  5],
	        [ 4, 12]])

矩阵乘法

将矩阵 $a\in R^{M\times N}$ 和矩阵 $b\in R^{N\times S}$ 相乘得到矩阵 $c\in R^{M\times S}$ ，字符串ik,kj->ij表示将矩阵a的ik元素和矩阵b的kj元素相乘，k是遍历变量，遍历所有k，累加ik*kj累加得到ij，即矩阵乘法

a = torch.tensor([
    [1, 2, 4],
    [2, 3, 5],
])
b = torch.tensor([
    [2, 6],
    [2, 4],
    [3, 1],
])
c = torch.einsum('ik,kj->ij', a, b)
print(c)
>>> tensor([[18, 18],
        	[25, 29]])