深度学习的经验

①由于时论文复现，暂时不考虑网络结构；
②显存要大 8g
③batchsize要适中，选择32或者64
④善用pytoch的imageload 和 dataset 来进行预处理
⑤训练时的结构：
训练集与验证集同时出现。
model.train() 开启BN 和Dropout
model.eval() 关闭BN 和Dropout，关闭后可以进行单张预测，不然就需要一个batchsize能预测成功

for epoch in range(xxx): 
     
      model.train()

     for index, imagedata in enumerate(dataloader):
     '''''''''
     model.eval()
       for index, imagedata in enumerate(dataloader):
     

⑥最好用Adam优化器
⑦pytorch的cross_entropy loss计算 ，不需要在网络中加入softmax了，已经自带。
⑧训练集要大，验证集在训练集中抽取，测试集不能与前面的重复。数据量越大越准确。epoch越少。