【动手学习深度学习】线性代数代码实现

标量

#%% 标量由只有一个元素的张量表示
import torch
x = torch.tensor(3.0)
y = torch.tensor(2.0)
x+y,x*y,x/y,x**y

向量

#%% 向量可以被视为标量值组成的列表
x = torch.arange(4)
x

一维张量表示向量

#%% 访问张量元素
x[3]

#%% 长度、维度和形状
len(x),x.shape

矩阵

#%% 创建矩阵
A = torch.arange(20).reshape(5,4)
A

#%% 矩阵转置
A.T

#%% 对称矩阵
B = torch.tensor([[1,2,3],[2,0,4],[3,4,5]])
B,B==B.T

#%% 张量
X = torch.arange(24).reshape(2,3,4)
X

张量算法的基本性质

#%% 元素加法
A = torch.arange(20,dtype=torch.float32).reshape(5,4)
B = A.clone()
A,A+B

#%% 点乘，对应元素相乘
A * B

#%% 张量、向量运算
a = 2
X = torch.arange(24).reshape(2,3,4)
a + X,(a*X).shape

降维

#%% 降维求和
x = torch.arange(4,dtype=torch.float32)
x,x.sum()

#%% 可以求任意形状张量的元素和
A.shape,A.sum() #结果和A.sum(axis=[0, 1])相同

#%% 特定轴降维
A_sum_axis0 = A.sum(axis=0)
A_sum_axis0

#%% 求平均值
A.mean(),A.sum()/A.numel()

#%% 计算指定维度的均值
A.mean(axis=0),A.sum(axis=0)/A.shape[0]

非降维求和

#%% 计算总和或均值时保持轴数不变
sum_A = A.sum(axis= 1 ,keepdims = True)
A,sum_A

#%% 通过广播将A除以sum_A
A / sum_A

#%% 沿某个轴计算A元素的累积总和
A,A.cumsum(axis=0),A.cumsum(axis=1)

点积

#%% Dot product
y = torch.ones(4,dtype=torch.float32)
x,y,torch.dot(x,y)

#%% 也可以通过元素乘法，然后进行求和来表示两个向量的点积
x*y,torch.sum(x*y)

矩阵-向量积

#%%
A.shape,x.shape,torch.mv(A,x)

矩阵-矩阵乘法

#%%
B = torch.ones(4,3)
torch.mm(A,B)

范数

#%% 考虑向量的大小 L2范数 欧几里得距离
u = torch.tensor([3.0,-4.0])
torch.norm(u)

L1范数，向量元素绝对值之和，受异常值的影响较小。