pytorch

1,安装

以mac环境下的pycharm为例，preference->project interpreter->查看package下有没有torch库，没有点击“+”,搜索torchvision，点击install package，等待安装完成后即可。package下会出现torch 和torchvision则成功。

2，基于pytorch实现线性回归

import numpy as np
import torch
from torch.autograd import Variable

x = np.array([
    [1.0,2.0,3.0],
    [4.0,5.0,6.0],
    [7.0,8.0,9.0],
    [2.0,3.0,5.0]
]) 
y = np.array([
    [1.2],
    [1.5],
    [1.9],
    [0.8]
])

# 构建图
input_x = torch.Tensor(x)
input_y = torch.Tensor(y)
w = Variable(torch.randn(3,1), requires_grad=True)
b = Variable(torch.Tensor([0]), requires_grad=True)


# 构造损失函数
criterion = torch.nn.MSELoss()
#criterion = torch.nn.CrossEntropyLoss()
# 构造优化器
optimizer = torch.optim.SGD([w, b], lr=0.01)

for epoch in range(500):
    # 获取得到预测值
    y_pred = input_x.matmul(w) + b
    # 计算损失函数
    loss = criterion(y_pred, input_y)
    print((epoch, loss.data, loss))
    # 优化
    # a. 重置上一轮的梯度值
    optimizer.zero_grad()
    # b. 反向传播
    loss.backward()
    # c. 更新模型参数
    optimizer.step()
y_pred = input_x.matmul(w) + b
print(y_pred)
print(y)

3,torch.nn.Linear（parameter..）

in_features - 每个输入样本的大小

out_features - 每个输出样本的大小

bias - 如果设置为False，则图层不会学习附加偏差。默认值：True

class Model(torch.nn.Module):
    def __init__(self):
        super(Model, self).__init__()
        # 开始构建网络
        # in_features: 给定输入的特征属性数目。out_features: 给定输出的特征属性数目
        self.linear = torch.nn.Linear(in_features=3, out_features=1)

    def forward(self, x):
        y_pred = self.linear(x)
        return y_pred

x = np.array([
    [1.0, 2.0, 3.0],
    [4.0, 5.0, 6.0],
    [7.0, 8.0, 9.0],
    [2.0, 3.0, 5.0]
])

y_pred = model(input_x)

y的形状（4，1） 
因为：input_x 4*3   linear(3*1) 结果4*1

 3,pytorch 加载外部数据，传入外部数据的路径root_path

 # 1. 加载数据
    transform = transforms.Compose([
        transforms.Resize((28, 28)),  # 图像大小重置（这里之所以是28*28，是因为model中定义的大小要求的）
        transforms.Grayscale(num_output_channels=1),  # 将图像转换为灰度图像
        transforms.ToTensor(),  # 将图像转换为Tensor对象
        transforms.Normalize(mean=[0.5], std=[0.5])  # 对于每个channel均给定转换操作的均值和标准差(功能类似BN，只是均值和标准差我们给定)
    ])
    train_data = datasets.ImageFolder(root=root_path, transform=transform)
 

4,pytorch迁移学习

# 加载训练好的模型并且进行稍微的调整修改。
    vgg16 = models.vgg16(pretrained=True)
    # 修改所有的模型参数不允许更新
    for param in vgg16.parameters():
        param.requires_grad = False
    # 更改模型的后面一部分的代码
    for idx in range(len(vgg16.features) - 1, 9, -1):
        del vgg16.features[idx]
    # 因为手写数字图片是灰度图像，只有一个通道，所以第一层的卷积需要更改。
    # vgg16.features[0] = torch.nn.Conv2d(1, 64, 3, 1, 1)
    vgg16.classifier = torch.nn.Sequential(
        torch.nn.Linear(6272, 500),
        torch.nn.ReLU(),
        torch.nn.Dropout(p=0.9),
        torch.nn.Linear(500, 10)
    )


model = vgg16.train()
loss = torch.nn.CrossEntropyLoss()
optimizer = optim.Adam(params=model.parameters(), lr=1e-6)