Note：小术语

深度学习：深度学习有时也称为端到端机器学习(end-to-end machine learning)。这里所说的端到端是指从一端到另一端的意思，也就是从原始数据(输入)中获得目标结果(输出)的意思。

泛化能力：泛化能力是指处理未被观察迹的数据(不包含在训练数据中的数据)的能力。获得泛化能力是机器孚习的最终目标。/比如，在识别手写数字的问题中，泛化能力可能会被用在自动读取明信片的邮政编码的系统上。此时，手写数字识别就必须具备较高的识别“某个人”写的字的能力。注意这里不是“特定的某个人写的特定的文字”，而是“任意-一个人写的任意文字”。如果系统只能正确识别已有的训练数据，那有可能是只学习到了训练数据中的个人的习惯写法。

Epoch：一个epoch , 表示所有的数据送入网络中， 完成了一次前向计算 + 反向传播的过程。

由于一个epoch 常常太大， 分成几个小的 baches .

将所有数据迭代训练一次是不够的， 需要反复多次才能拟合、收敛。

在实际训练时、 将所有数据分成多个batch ， 每次送入一部分数据。

使用单个epoch 更新权重 不够。

随着epoch 数量的增加， 权重更新迭代的次数增多， 曲线从最开始的不拟合状态， 进入优化拟合状态， 最终进入过拟合。

epoch 如何设置： 大小与数据集的多样化程度有关， 多样化程度越强， epoch 越大。
参考：深度学习： Epoch 是什么？_zhaoyuyu_nudt的博客-CSDN博客_epoch