- 博客(2)
- 收藏
- 关注
RSS订阅原创 <Neural Networks_Tricks of the Trade> Chapter 1 Efficient BackProp (2)
以下内容来自本人对《Neutral Networks- Tricks of the trade》的翻译。转载请注明出处。Andrew Chen---------------------------------------------------------------------------1.4.4 The sigmoidSigmoid函数的输出更接近于0。这比标准logst
2015-11-30 15:47:54
762
原创 <Neural Networks_Tricks of the Trade> Chapter 1 Efficient BackProp (1)
1.1 Inroduction本章首先介绍标准的反向传播以及一些简单地启发方法或技巧，来提升表现。然后探讨一些收敛问题。随后，描述一些经典的二阶非线性优化技术，并且表明它们在神经网络的应用是很有局限的。最后，我们给出一些二阶方法，这些方法确实可以在某些问题上加快学习。1.2 Learning and Generalization目前最成功的机器学习方法是基于梯度的学习方法。Ep
2015-11-26 19:32:58
992
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人