pytorch实战代码架构

主要是学习了陈云老师对于ML/DL模型代码的组织架构。一个学习模型通常会涉及到不断调参，训练验证测试等步骤，如果不进行合理地封装和组织，代码跑起来会非常地麻烦，所以对代码进行整洁地组织是非常有必要的。
陈云老师的pytorch实战的git链接：pytorch实战
首先是文件组织：

│  config.py
│  main.py
│  readme.md
├─data
│      dataset.py
│      __init__.py
│
├─models
│      AlexNet.py
│      BasicModels.py
│      ResNet34.py
│      __init__.py
│
└─utils
        visualize.py
        __init__.py

主要分为data，models，utils包以及config和main两个文件。data包主要用以处理数据，包括将数据分割为训练、验证、测试集等。因为数据在训练和测试的时候操作不同，比如训练时要对图片进行增强、增加噪声等，而测试时不需要。

models包则涉及到具体的模型，首先有一个BasicModels做为所有模型的基类，封装了save和load的基本操作。然后分别是AlexNet和ResNet32的具体构造过程，用nn.Sequential来进行一层层地堆叠。此处需要注意对于常用的重复出现的模块要封装成函数。

utils包是工具包，封装了一些可视化的函数。

config配置文件则包含了模型所需要的超参数，包括学习率，epoch数目，文件路径等等。还包括一个更新config参数的函数，使之不用修改文件直接通过命令行就可以实现参数更新。这样很方便地可以进行调参。

main函数则是包含了模型的训练、验证、测试等具体的操作步骤。比如训练一个模型所需要的：计算损失函数，计算梯度，反向传播等具体步骤。

optimizer.zero_grad()
score = model(input)
loss = criterion(score,target)
loss.backward()
optimizer.step()

main函数直接可以用fire命令行调用，并且每次测试的结果都记录在csv中方便后续进行结果的分析对比。

具体的函数实现并没有非常细致地深入，主要还是学习了代码的组织架构和一些类、函数的封装思想。