2018.11.14——随机梯度下降，解释batch，epoch

深度学习中，随机梯度下降，batch：批的意思，一批有20张图片，对20张图片分别计算20个输出，统计所有误差，求平均以后得到平均误差，以此来作为参数更新的依据。因为，虽然很多batch遍历完整个数据集，但从来都不是一次使用整个数据集，因此是局部最优解，但实际上最终的结果是在全局最优解附近的。

epoch：是很多batch遍历完整个数据集，称为一个epoch。