2021高通人工智能应用创新大赛踩坑指南

最新推荐文章于 2021-12-12 12:03:51 发布

小刘鸭！

最新推荐文章于 2021-12-12 12:03:51 发布

阅读量243

点赞数

分类专栏：机器学习 Python 深度学习文章标签：深度学习 python 机器学习

本文链接：https://blog.csdn.net/weixin_44056948/article/details/116564371

版权

65 篇文章 10 订阅

订阅专栏

61 篇文章 6 订阅

订阅专栏

39 篇文章 2 订阅

订阅专栏

在训练模型时会在前面加上：

model.train()

在测试模型时在前面使用：

model.eval()

同时发现，如果不写这两个程序也可以运行，这是因为这两个方法是针对在网络训练和测试时采用不同方式的情况，比如Batch Normalization 和Dropout。

使用PyTorch进行训练和测试时一定注意要把实例化的model指定train/eval，eval()时，框架会自动把BN和DropOut固定住，不会取平均，而是用训练好的值，不然的话，一旦test的batch_size过小，很容易就会被BN层导致生成图片颜色失真极大！

Class Inpaint_Network()

......

Model = Inpaint_Nerwoek()

#train:

Model.train(mode=True)

.....
#test:

Model.eval()

训练时是针对每个min-batch的，但是在测试中往往是针对单张图片，即不存在min-batch的概念。由于网络训练完毕后参数都是固定的，因此每个批次的均值和方差都是不变的，因此直接结算所有batch的均值和方差。
所有Batch Normalization的训练和测试时的操作不同。

关注