关于什么是机器学习中的超参数和普通参数,我之前写过一篇文章给大家介绍过。简单讲超参数是在模型训练开始前由用户人为指定的,而非通过训练过程自动学到的参数。
【机器学习300问】22、什么是超参数优化?常见超参数优化方法有哪些?http://t.csdnimg.cn/cCLeR
神经网络中有哪些常见超参数?
(1)学习率(Learning Rate)
- 学习率的作用是控制参数跟新的步长。
- 较高的学习率可以使模型快速收敛,但也可能导致训练过程不稳定或错过最优解;
- 较低的学习率则可能导致训练速度慢,需要更多次迭代才能接近最优解。
- 因此适当的学习率对模型训练至关重要。
(2)迭代次数(Epochs)
- 迭代次数又叫训练周期,是指完整的把所有训练集数据输入模型训练的轮次。