深度学习的最新研究进展（一）

深度学习是机器学习和人工智能领域的最新趋势之一，为计算机视觉和机器学习带来了深刻的变革。新的深度学习正在不断诞生，甚至已经超越了最先进的机器学习技术。近年来，全世界在深度学习领域取得了许多重大突破。

“深度学习”的由来

“深度学习”（Deep Learning）一词最初于1986年被引入机器学习概念，2000年时又被用于人工神经网络。深度学习由多个层组成，以学习具有多个抽象层次的数据特征。深度学习允许计算机通过相对简单的概念来学习复杂的概念。

对于人工神经网络，深度学习（也叫分层学习）是指在多个计算阶段中精确地分配信用，以转换网络中的聚合激活。为了学习复杂的结构，深度架构被用于多个抽象层次，即非线性操作，例如人工神经网络具有许多隐藏层。总的来说，深度学习是机器学习的一个子领域，使用多层次的非线性信息处理和抽象，用于有监督或无监督的特征学习、表示、分类和模式识别。

如今，人工神经网络（ANN）已经取得了长足的进步，同时也带来了其他的深度模型。第一代人工神经网络由简单的感知器神经层组成，只能进行有限的简单计算。第二代使用反向传播，根据错误率更新神经元的权重。然后支持向量机（SVM）浮出水面，在一段时间内超越ANN。为了克服反向传播的局限性，人们提出了受限玻尔兹曼机（RBM），使学习更加容易。此时其他技术和神经网络也出现了，如前馈神经网络（FNN）、卷积神经网络ÿ