pytorch 入门指南
1. pytorch 概述
pytorch是facebook 开发的torch(Lua语言)的python版本,于2017年引爆学术界
官方宣传pytorch侧重两类用户:numpy的gpu版、深度学习研究平台
pytorch使用动态图机制,相比于tensorflow最开始的静态图,更为灵活
当前pytorch支持的系统包括:win,linux,macos
2. pytorch基本库
常用的pytorch基本库主要包括:
- torch: 内含一些常用方法,与numpy比较像
- torch.Tensor:内含一些操作tensor的方法,可通过tensor.xx()进行调用
- torch.nn:内含一些常用模型,如rnn,cnn等
- torch.nn.functional:内含一些常用方法,如sigmoid,softmax等
- torch.optim:内含一些优化算法,如sgd,adam等
- torch.utils.data:内含一些数据迭代方法
3. 基本操作
a. tensor操作
# 初始化空向量
torch.empty(3,4)
# 随机初始化数组
torch.rand(4,3)
# 初始化零向量
torch.zeros(4,3, dtype=torch.int)
# 从数据构建数组
x = torch.tensor([3,4],dtype=torch.float)
x = torch.IntTensor([3,4])
# 获取tensor的尺寸,元组
x.shape
x.size()
# _在方法中的意义:表示对自身的改变
x = torch.ones(3,4)
# 以下三个式子 含义相同
x = x + x
x = torch.add(x, x)
x.add_(x)
# 索引,像操作numpy一样
x[:,1]
# 改变形状
x.view(-1)
x.view(4,3)
# 如果只包含一个元素值,获取
x = torch.randn(1)
x.item()
# 增加一维
input = torch.randn(32, 32)
input = input.unsqueeze(0)
input.size()
# tensor的data还是tensor,但是requires_grad=False
x.data.requires_grad
# 改变类型
x.type(torch.LongTensor)
b. numpy 与 tensor的转换
# 转换, 共享内存
a= numpy.array([1,2,3])
a = torch.from_numpy(a)
a.numpy()
c. 调用gpu
# gpu是否可用
torch.cuda.is_available()
# 调用设备
device = torch.device('cpu') # cuda or cpu
a = torch.tensor([1,2,3], device='cuda') # 直接在gpu上创建
a = a.to(device) # 上传
a = a.to('cpu') # 上传, cpu or cuda
a = a.cuda() # 上传cuda
d. 梯度
- .requires_grad ,决定是否可微(梯度)
- .backward(), 计算梯度;如果单独一个值则不需指定参数,否则需传入权重(尺寸与tensor的size同)
- .grad, 用于存储梯度累计值。 只有tensor有梯度值,计算节点没有
- .detach(), 相当于新建了一个变量,历史的计算图无效
- with torch.no_grad():, 评估模型时可用到,不计算梯度
- .grad_fn, 节点是如何产生的;用户创造的tensor([1,2,3]).grad_fn 为None
- .data(), tensor值,requires_grad=False
# 创建可微的tensor
x = torch.ones(2,3,requires_grad=True)
# 改变可微性
x.requires_grad_(False)
# 获得梯度值
x = torch.ones(2, 2, requires_grad=True)
y = x +2
z = y * y *3
out = torch.sum(z)
out.backward()
x.grad
# 无梯度, 报错
with torch.no_grad():
x = torch.ones(2, 2, requires_grad=True)
y = x +2
z = y * y *3
out = torch.sum(z)
out.backward()
x.grad
e. 定义模型
两种定义方式
- class定义
- Sequential定义
# 通过class定义
class Net(nn.Module):
def __init__(self):
super(Net, self).__init__()
# 下面通过实例变量的形式声明模型内需要学习的参数
self.fc1 = nn.Linear(5, 10)
self.fc2 = nn.Linear(10,20)
def forward(self, x):
# 下面定义计算图
x = self.fc1(x)
x = nn.functional.relu(x)
x = self.fc2(x)
return x
net = Net()
# 通过Sequential定义
net = Sequential(
nn.Linear(5, 10),
nn.Relu(),
nn.Linear(10, 20)
)
f. 模型参数操作
# 获取模型参数
net.parameters() #可用for 迭代
# 模型内参数梯度清零
net.zero_grad()
g. 定义损失函数
loss = nn.CrossEntropyLoss()
h. 定义优化算子
optimizer = optim.SGD(net.parameters(), lr=0.01)
i. 训练
optimizer.zero_grad() # zero the gradient buffers
output = net(input)
loss = criterion(output, target)
loss.backward()
optimizer.step()
j. 测试
# 测试
with torch.no_grad():
output = net(input)
k. 保存与载入
# 模型
torch.save(net, file)
net = torch.load(file)
# 参数
torch.save(model.state_dict(), file)
net = Model()
net.load_state_dict(file)
4. 一个完整的机器学习流程
- 数据
- 载入数据
- 数据处理
- 构建迭代器
- 模型
- loss
- optimizer
- 新建/载入模型
- 新建
- 载入
- 直接载入模型
- 载入参数
- 新建模型
- 载入模型参数(对于adam等优化器,其参数也需载入)
训练
batch训练
for i, batch in enumerate(dataloader): x_batch, y_batch = batch outputs = net(x_batch) loss = criterion(output, target) optimizer.zero_grad() loss.backward() optimizer.step()
每隔一段时间,打印验证集loss
- 每隔一段时间,存储模型
测试
- 载入测试数据
- 数据处理
- 构建迭代器(可选)
- 放入模型,输出结果
- 计算accuracy
5. 推荐阅读
基础:
- https://morvanzhou.github.io/tutorials/machine-learning/torch/ (基础:莫烦的pytorch视频)
- https://pytorch.org/tutorials/beginner/deep_learning_60min_blitz.html (基础:pytorch的60min官网入门教程)
- https://github.com/yunjey/pytorch-tutorial (基础:pytorch的demo教程)
进阶:
- https://pytorch.org/tutorials/ (进阶:pytorch官网的详细demo教程)
- https://pytorch.org/docs/stable/index.html (进阶:pytorch的api)
- https://github.com/pytorch/examples (进阶:pytorch官网若干demo)