本文介绍了在使用Caffe进行InceptionBN_21K模型微调时遇到的显存不足问题。由于Linux服务器上的GTX1080显卡内存限制，训练(batch size=32)和验证(batch size=32)导致显存溢出。解决方案是将训练和验证分开，降低验证阶段的batch size至1，并手动运行测试。具体操作包括修改prototxt文件，创建单独的训练和验证网络配置，并调整相应的solver文件。
1、问题描述：
（1）Linux服务器上有四块GTX1080的显卡，每块8G；
（2）现在要微调测试模型InceptionBN_21K，即googlenet v2；
（3）文章链接：https://arxiv.org/abs/1512.00567
（4）Github代码：https://github.com/pertusa/InceptionBN-21K-for-Caffe
（5）我在微调网络时，将train阶段的batch size设置为32，显存占用为6047MiB，无法再上调batch size，否则将会out of memory；
（6）我在（5）的同时，设置test阶段的batch size仍为32，于是网络在test时直接out of memory，显存占用超出8G；
2、设定解决方案：
（1）将test阶段的batch size降为1，solver.prototxt中test_iter设置为验证集大小；
最低0.47元/天 解锁文章
扫一扫
6089
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
