每天五分钟机器学习：为什么窄而深的神经网络比宽而浅的网络强大

本文重点：

我们要学习神经网络算法了，神经网络可以认为是深度学习的基石，他很强大，它能够解决传统的机器学习算法且不能解决的问题，所以现在大家都认为现在的人工智能进入了深度学习的时代。那么为什么神经网络如此强大呢？

近些年来，深度学习发展迅速，就卷积神经网络而言，从最初的几层，到152层，到上千层，现如今再计算机视觉领域，上千层的神经网络是非常常见的。

神经网络层数越多越强大

神经网络为什么这么有效果，很多人都不能说明其中的原因，它就像一个黑箱子，我们知道神经网络的层数越多，那么它的模型参数就越多，也就是说它的复杂度就越大，那么可以认为它的学习能力就越强，这也是为什么神经网络层数越多越强大的原因。

如何提高复杂度

要想提高神经网路的复杂度，需要从两个方面来进行考虑，方面一就是把模型变深，也就是增加神经网络的层数，另外一方面就是把神经网络变宽。但是从实践的角度来看，变深往往比变宽更有效，这是为什么？

我们可以理解为虽然神经网络变宽了，复杂度上来了，学习能力上来了，但是它的效果并没有比层数多的网络好。