Keras中模型训练、测试、改进技巧总结

观察模型的效果

1. 训练集的准确率accuracy应该会高于测试集

 2. 观察训练轮数epoch与准确率accuracy、损失loss的关系

改进网络的方法 

1. 增加隐藏层改进简单的网络

2. 使用dropout进一步改进简单网络 

3. 选择更好的优化器optimizer

 

 

 4. 增加训练轮数epoch  

5. 控制优化器的学习率

 

  6. 增加内部隐藏神经元的数量

 7. 增加批处理Batch_size的大小

当batch_size=1时，变成在每个epoch中，每个样本进行一次梯度更新，一共更新n次。

当batch_size=n时（n=样本总数），变成在每个epoch中，所有样本数据进行一次梯度更新，一共更新一次。

当batch_size=k时，变成在每个epoch中，batch_size个样本更新一次梯度，一共更新n/batch_size次。

 7. 采用正则化方法避免过拟合

Keras文档有关正则化内容：

 

8. 超参数调优 

 用训练好的模型预测