深度学习1

深度学习概念理解

1.训练集：一组数据用来训练模型
2.验证集：一组数据，用来调整模型参数（交叉验证）
3.测试集：与训练集保持相同分布的一组分布，用来测试模型的好坏（不参与模型的参数调整）

4.batchsize：一次用来训练的样本数目。太小，不收敛；太大，训练速度下降，内存也可能支持不住
5.epoch：简单理解为全量训练集的一次训练，深度学习需要多轮这样的训练
6.iteration：迭代次数，这个次数是全量训练集完成一次训练的次数，2000的训练集，batchsize=500，则iteration=2000／500=4

7.dropout：在训练过程中，按照一定概率丢弃神经网络单元，达到防止过拟合的目的