神经网络
owl_just
这个作者很懒,什么都没留下…
展开
-
训练神经网络失败的原因(上)
原文链接 根据原文讲述 原因大致如下: 1. 没有对数据进行归一化 神经网络中对数据进行归一化是不可忽略的步骤,网络能不能正常工作,还得看你有没有做归一化。这个步骤是非常重要的,深度学习领域的人都很清楚,因此论文中也很少有提及到。但是对于初学者来说,很容易在这里栽跟头,比如说我。 一般来讲,归一化就是减去数据平均值除以标准差,通常是针对每个输入和输出特征进行归一化。 需要归一化的首要...原创 2018-05-14 22:39:58 · 7921 阅读 · 0 评论 -
训练神经网络失败的原因(下)
上半部分 原文链接 4. 没有正则化 正则化典型的就是dropout、加噪声等。即使数据量很大或者你觉得网络不可能出现过拟合,但是对网络进行正则化还是很有必要的 dropout 通常从设定参数为0.75或0.9开始,根据你认为网络出现过拟合的可能性来调整这个参数。另外,如果你确定这个网络不会出现过拟合,那么可以将参数设定为0.99。 正则化不仅仅可以防止过拟合,并且在这个随机过程中,...原创 2018-05-16 13:47:12 · 6159 阅读 · 0 评论