tensorflow: 常用术语总结

参考自:
https://www.tensorflow.org/api_docs/python/tf/estimator/Estimator#evaluate
https://developers.google.com/machine-learning/glossary/#epoch

steps :  steps  batches are processed
epoch:  在训练时，整个数据集的一次完整遍历，以便不漏掉任何一个样本。因此，一个周期表示（ N / 批次规模 ）次训练 迭代 ，其中  N  是样本总数。
iteration:  模型的权重在训练期间的一次更新。迭代包含计算参数在单个 批量 数据上的梯度损失。
一次iteration代表了一次梯度更新。
batch:  模型训练 的一次 迭代 （即一次 梯度 更新）中使用的样本集。
batch_size: 一个 批次 中的样本数。例如， SGD  的批次规模为 1，而 小批次 的规模通常介于 10 到 1000 之间。批次规模在训练和推断期间通常是固定的；不过，TensorFlow 允许使用动态批次规模。

step: 对一个批次的向前和向后评估。