pytorch和tensorflow是学习深度学习非常常用的框架,近几年越来越火,与tensorflow分庭抗礼。
11.1 Tensor
在数学中,标量是只有大小没有方向的量,如1,2,3,向量是既有大小又有方向的量,如v = (2, 3, 5),矩阵是由多个向量组成的一堆数字
Tensor俗称张量,是深度学习中的基本概念,大致来说一个数字1可以认为是零阶张量,向量[1, 2, 3]可以认为是一阶张量,矩阵[[1, 2, 3], [4, 5, 6], [7, 8, 9]]可以认为是二阶张量。
Tensor的创建
1. 基本创建方法:
import torch
x = torch.Tensor(2, 4)
t = x.type()
dtype = x.dtype
print("x = ", x)
print("type = ", t)
print("dtype = ", dtype)
结果:
x = tensor([[0.0000e+00, 1.0842e-19, 1.6988e-12, 3.6902e+19],
[8.4078e-45, 1.0842e-19, 1.7011e-12, 1.5849e+29]])
type = torch.FloatTensor
dtype = torch.float32
从x.type()返回的变量类型可以看出,torch.Tensor()的默认类型是torch.FloatTensor,而该类型中的数字的类型,即dtype是torch.float32,也就是32位浮点数,Tensor一共包含了8种数据类型
11.1.1 Tensor线性代数运算
1. 点积运算
所谓点积运算就是两个向量对应的量进行相乘,然后相加
例子:
import torch
a = torch.Tensor([1, 2, 3])
b = torch.Tensor([4, 5, 6])
c = torch.dot(a, b)
print("c = ", c)
结果:
c = tensor(32.)
2. 矩阵和向量相乘
#!usr/bin/python3
import torch
a = torch.Tensor([[1, 2, 3], [4, 5, 6], [7, 8, 9]])
b = torch.Tensor([1, 2, 3])
c = torch.mv(a, b)
print("c = ", c)
结果:
c = tensor([14., 32., 50.])
3. 两个矩阵相乘
#!usr/bin/python3
import torch
a = torch.Tensor([[1, 2, 3], [4, 5, 6], [7, 8, 9]])
b = torch.Tensor([[1, 2, 3], [4, 5, 6], [7, 8, 9]])
c = torch.mm(a, b)
print("c = ", c)
结果:
c = tensor([[ 30., 36., 42.],
[ 66., 81., 96.],
[102., 126., 150.]])