第二章 pytorch

pytorch和tensorflow是学习深度学习非常常用的框架，近几年越来越火，与tensorflow分庭抗礼。

11.1 Tensor

在数学中，标量是只有大小没有方向的量，如1,2,3，向量是既有大小又有方向的量，如v  = (2, 3, 5)，矩阵是由多个向量组成的一堆数字

Tensor俗称张量，是深度学习中的基本概念，大致来说一个数字1可以认为是零阶张量，向量[1, 2, 3]可以认为是一阶张量，矩阵[[1, 2, 3], [4, 5, 6], [7, 8, 9]]可以认为是二阶张量。

Tensor的创建

1. 基本创建方法：

import torch
x = torch.Tensor(2, 4)
t = x.type()
dtype = x.dtype
print("x = ", x)
print("type = ", t)
print("dtype = ", dtype)

结果：

x =  tensor([[0.0000e+00, 1.0842e-19, 1.6988e-12, 3.6902e+19],
        [8.4078e-45, 1.0842e-19, 1.7011e-12, 1.5849e+29]])
type =  torch.FloatTensor
dtype =  torch.float32

从x.type()返回的变量类型可以看出，torch.Tensor()的默认类型是torch.FloatTensor，而该类型中的数字的类型，即dtype是torch.float32，也就是32位浮点数，Tensor一共包含了8种数据类型

11.1.1 Tensor线性代数运算

1. 点积运算

所谓点积运算就是两个向量对应的量进行相乘，然后相加

例子：

import torch

a = torch.Tensor([1, 2, 3])
b = torch.Tensor([4, 5, 6])
c = torch.dot(a, b)
print("c = ", c)

结果：

c =  tensor(32.)

2. 矩阵和向量相乘

#!usr/bin/python3
import torch
a = torch.Tensor([[1, 2, 3], [4, 5, 6], [7, 8, 9]])
b = torch.Tensor([1, 2, 3])
c = torch.mv(a, b)
print("c = ", c)

结果：

c =  tensor([14., 32., 50.])

3. 两个矩阵相乘

#!usr/bin/python3
import torch
a = torch.Tensor([[1, 2, 3], [4, 5, 6], [7, 8, 9]])
b = torch.Tensor([[1, 2, 3], [4, 5, 6], [7, 8, 9]])
c = torch.mm(a, b)
print("c = ", c)

结果：

c =  tensor([[ 30.,  36.,  42.],
        [ 66.,  81.,  96.],
        [102., 126., 150.]])