deep learning

翻译：Deep Learning论文翻译（Nature Deep Review） - 零楚L - 博客园

解读：Nature:Deep Learning 深度学习综述_因为懂得的博客-CSDN博客_深度学习综述

英文翻译：

一、引言

Deep-learning methods are

representation-learning methods with multiple levels of representa

tion, obtained by composing simple but non-linear modules that each

transform the representation at one level (starting with the raw input)

into a representation at a higher, slightly more abstract level. With the

composition of enough such transformations, very complex functions

can be learned.

深度学习就是一种特征学习方法，把原始数据通过一些简单的但是非线性的模型转变成为更高层次的、更加抽象的表达。通过足够多的转换的组合，学可以习非常复杂的功能。（用深度学习的方法、多层的神经网络来找到一个函数，这个函数可以被学习，这个函数最后可以表示非常复杂的功能，比如说语音识别、图像识别。我们的过程就是要找到这个复杂的函数，然后通过学习更精确）

二、监督学习

We compute an objective function that measures the error (or dis

tance) between the output scores and the desired pattern of scores. The

machine then modifies its internal adjustable parameters to reduce

this error. These adjustable parameters, often called weights, are real

numbers that can be seen as ‘knobs’ that define the input–output func

tion of the machine. In a typical deep-learning system, there may be

hundreds of millions of these adjustable weights, and hundreds of

millions of labelled examples with which to train the machine.

通过计算一个目标函数来测量出输出分数和期望模式分数之间的误差（或距离）。然后机器会修改其内部可调参数，以减少这种误差（就是反反向传播的过程）。这些可调节的参数，通常被称为权值，它们是一些实数，可以被看作是一些“旋钮”，定义了机器的输入输出功能。在典型的深学习系统中，可能有数以百万计的样本和权值和带有标签的样本，用来训练机器。

为了正确地调整权值向量，该学习算法计算每个权值的梯度向量，表示了如果权值增加了一个很小的量，那么误差会增加或减少的量。权值向量然后在梯度矢量的相反方向上进行调整。我们的目标函数，所有训练样本的平均，可以被看作是一种在权值的高维空间上的多变地形。负的梯度矢量表示在该地形中下降方向最快，使其更接近于最小值，也就是平均输出误差低最低的地方。