神经网络训练套路

参考视频：https://www.bilibili.com/video/BV1hE411t7RN?p=27&spm_id_from=pageDriver

1、格式化字符串用法：

print("训练数据集的长度为：{}".format(train_data_size))

2、

        加载数据Dataset;数据进行打包DataLoader;创建网络模型；构建损失函数、优化器；

        训练网络。

print("第{}轮训练开始".format(i+1))

# .item()tensor数据类型转换为tensor类型

print("训练次数：{}， Loss: {}".format(train_step, loss.item()))

3、模型训练过程中添加测试：

        训练过程无法评估模型是否训练好，故在训练几轮之后需要添加测试用来进行评估。（以测试数据集上的损失或者准确率评估模型训练效果如何）

        利用现有模型进行测试：

# 计算整体数据集上的loss
total_loss = 0.0


# 数据不计梯度
with torch.no_grad():
    for data in test_dataloader():
        imgs,labels = data
        outputs = model(imgs)
        loss = loss_fn(outputs, labels)
        total_loss = total_loss + loss.item()

4、模型用于分类计算

        一般衡量指标为正确率：

        首先给定正确率：total_accuary = 0.0

        一批数据的正确率：accuary = (outputs.argmax(1) == targets).sum()

        整体正确率为：total_accuracy/test_data_size

5、模型训练注意细节：

只针对dropout和BN层有作用。

                训练：model.train():

                测试：model.eval()