神经网络中：Epoch, Batch, Iteration

最新推荐文章于 2024-09-11 21:58:36 发布

大显Albert

最新推荐文章于 2024-09-11 21:58:36 发布

阅读量9k

点赞数 14

分类专栏：帮助文章标签： batch 神经网络开发语言

本文链接：https://blog.csdn.net/weixin_41730008/article/details/123141538

版权

帮助专栏收录该内容

9 篇文章 1 订阅

订阅专栏

本文详细讲解了神经网络训练中的重要概念：Epochs（轮次）如何表示模型遍历完整数据集，Batches（批次）如何影响优化效率与数据分布模拟，以及Iterations作为两者结合的计数单位。理解这些概念有助于优化训练过程和提高模型性能。

摘要由CSDN通过智能技术生成

神经网络中：Epoch, Batch, Iteration

在这里插入图片描述

Epoch，epoch可译为“轮次”。当一个完整的数据集通过了神经网络一次并且返回了一次，这个过程称为一次epoch。每一轮更新中网络更新的次数可以随意，但通常会设置为遍历一遍数据集。因此一个epoch的含义是模型完整的看了一遍数据集。设置epoch的主要作用是把模型的训练的整个训练过程分为若干个段，这样我们可以更好的观察和调整模型的训练。
Batch：中文为批，将整个训练样本分成若干个Batch。一个batch由若干条数据构成。batch是进行网络优化的基本单位，网络参数的每一轮优化需要使用一个batch。batch中的样本是被并行处理的。与单个样本相比，一个batch的数据能更好的模拟数据集的分布，batch越大则对输入数据分布模拟的越好，反应在网络训练上，则体现为能让网络训练的方向“更加正确”。但另一方面，一个batch也只能让网络的参数更新一次，因此网络参数的迭代会较慢。在测试网络的时候，应该在条件的允许的范围内尽量使用更大的batch，这样计算效率会更高。
Iteration
Iteration是batch需要完成一个epoch的次数。

参考https://www.cnblogs.com/tangbaofang/p/8416135.html
参考链接：https://blog.csdn.net/qq_39521554/article/details/84480429