- 博客(2)
- 收藏
- 关注
RSS订阅原创 Pytorch(1) pytorch中的BN层的注意事项
最近修改一个代码的时候，当使用网络进行推理的时候，发现每次更改测试集的batch size大小竟然会导致推理结果不同，甚至产生错误结果，后来发现在网络中定义了BN层，BN层在训练过程中，会将一个Batch的中的数据转变成正太分布，在推理过程中使用训练过程中的参数对数据进行处理，然而网络并不知道你是在训练还是测试阶段，因此，需要手动的加上，需要在测试和训练阶段使用如下函数。model.train(...
2018-11-22 21:44:03
10859
原创 Pytorch（0）降低学习率torch.optim.lr_scheduler.ReduceLROnPlateau类
当网络的评价指标不在提升的时候，可以通过降低网络的学习率来提高网络性能。所使用的类class torch.optim.lr_scheduler.ReduceLROnPlateau(optimizer, mode='min', factor=0.1, patience=10, verbose=False, threshold=0.0001, threshold_mode='rel', coold...
2018-11-21 08:36:36
43965
7
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人