深度学习（1）

谈到深度学习时，我们不得不说的一篇review，是由Yann LeCun,Yoshua Bengio和Geoffrey Hinton携手发表的一篇paper，Deep Learning。但是作为一位初学者，往往会感到困惑，有人常常会问：深度学习是什么，深度学习又能做什么？那我想如果把这个问题说的具体一点，可能是深度学习同以往的机器学习是有着什么样的关系，为什么他会这么火，应该是这样类似的问题。和我刚刚讲到为什么初学者会感到困惑，我不知道你们有没有听过这么一句话，深度学习就像是一个黑匣子一般，给一个input，那头就会有一个output，你可能真的很难想象在这之间，我们所说的神经网络做了什么。因此，我说很多初学者会感到困惑，原因是没有基础，其实对于有着丰富经验的机器学习基础的人来讲，深度学习也不是什么很难懂的东西，它和其它方法一样，有着深厚的理论基础，所以请不要质疑它。那你可能会问，为什么深度学习会这么流行，这么火。我想学习这个你就会知道，就是因为它的优异的性能啊，当然也有很多坑，好在现在的学习资源已经相当的多了。因此在学习深度学习的同时，看一看其他机器学习的方法，对我们更好的理解它，会有很大的帮助。

现在说一说这篇paper，深度学习是一种有多层表示的表示学习方法，用简单的非线性模块构建而成，这些模块将上一层的表示（从原始输入数据开始）转化为更高层、更抽象的表示。深度学习的学习方法，说的简单点，就是通过可调的参数，具体点就是权值和偏置，怎么调？这里就涉及到一系列的理论，首先，高数里都学过导数、梯度，直白一点讲导数就是斜率、变化率，那其实梯度也一样，梯度可以表示任意方向的变化率，那么通过梯度求得可调参数对输出结果的变化率，进而沿着误差相反的方向进行调节。我们经常会用一种叫做随机梯度下降的方法去训练，用反向传播算法去计算梯度。下图为神经网络前向和反向传播的计算例子。

 

在理解图片这块，深度学习也有很多应用。如物体识别，图像分割、物体检测、物体分类等等。这块的应用其实就是在计算机视觉这里。