超参数调节:
1 一次只调节一个参数,学习完后看损失函数数据趋势,如果在下降,则顺着趋势调节;
2 对应误差有两种:欠拟合和过拟合。
欠拟合:当训练误差很大时会出现,说明建立的模型太简单了,或者选的模型不对,可以考虑增加模型复杂度,例如增加隐藏层数量或者神经元数量;
过拟合:当训练误差很小,但是泛化误差比较大(也就是测试误差大)时;有可能模型复杂度太高;当训练数据集太小时也会发生。一个指标是训练数据集大小至少应该超过模型参数数量
深度学习总结2
最新推荐文章于 2023-10-10 15:23:56 发布