神经网络
文章平均质量分 54
__BC__
这个作者很懒,什么都没留下…
展开
-
深度学习过拟合
过拟合过拟合是指当一个模型过于复杂之后,可以很好地“记忆”每一个训练数据中随机噪声的部分,而忘记了要去”学习”训练数据中通用的趋势解决措施正则化思想:在损失函数中加入刻画模型复杂程度的指标假设用于刻画模型在训练数据上表现得损失函数为J(θ)J(\theta)J(θ),而是优化J(θ)+λR(W)J(\theta)+\lambda R(W)J(θ)+λR(W)R(W)R(W)R(W)刻画得是模型得复杂程度,而λ\lambdaλ表示得是模型复杂损失在总损失中得比重常用得刻画模原创 2021-06-06 20:42:33 · 70 阅读 · 0 评论 -
指数衰减率
深度学习中的指数衰减率公式指数衰减率公式:decayed_learning_rate=learning_rate∗decay_rateglobal_step/decay_stepsdecayed\_learning\_rate=learning\_rate*decay\_rate^{global\_step/decay\_steps}decayed_learning_rate=learning_rate∗decay_rateglobal_step/decay_steps说明tf.train.ex原创 2021-06-06 19:48:09 · 1851 阅读 · 0 评论