pytorch深度学习，迭代优化，迁移学习步骤，引用现有模型pth，并且修改模型训练过程，一看就懂系列

迁移学习
1，首先加载模型实例
2，冻住卷积层（或者其中一部分），直修改全链接层
3，拿到最后一层全链接层的输入层数值
4，修改最后一层的全链接层参数矩阵
迭代优化
在整个训练过程中，存在两个地方需要迭代优化的选择
1，是在设计卷积神经网络的时候，需要优化的地方，不一定是卷积层数量越多，loss值就越小，它有一个瓶颈例如在VGG网络模型中，但是最后发现是因为我们设计的卷基层的卷积核某个层可能不是特别好，为了解决这个问题，出现了RESNET，残余差错的网络模型，它可以丢掉不好的隐藏层，
2，是在训练的过程中，按照epoch来规定训练多少次，batch规定一次训练多少个样本，例如一个bh训练64张图片，或者128张图片，我们需要在训练的过程中观察并保存loss值，保存最好的那一次的epoch训练得到的模型结果，如果结果好的化就要保存，防止过拟合的出现