Step, Batch Size, Iteration,Epoch
1. 名词解释Step: 训练模型的步数Batch Size(批尺寸): 计算梯度所需的样本数量,太小会导致效率低下,无法收敛。太大会导致内存撑不住,Batch Size增大到一定程度后,其下降方向变化很小了,所以Batch Size是一个很重要的参数。为什么需要有 Batch_Size :batchsize 的正确选择是为了在内存效率和内存容量之间寻找最佳平衡。Epoch(回合):代表样本集内所有的数据经过了一次训练。每个 epoch 都会进行shuffle,对要输入的数据进...
转载
2020-08-30 11:31:34 ·
1292 阅读 ·
0 评论