神经网络中“端到端”思想

深度学习的一个重要思想就是“端到端”的学习方式，属表示学习的一种。这是深度学习区别于其他机器学习算法的最重要的一个方面。其他机器学习算法，如特征选择算法、分类器算法、集成学习算法等，均假设样本特征是给定的，并在此基础上设计具体的机器学习算法，在深度学习时代之前，样本表示基本都使用人工特征，人工特征的优劣往往在很大程度上决定了最终的任务精度。这样便催生了一种特殊的机器学习分支——特征工程。在深度学习到来之前，特征工程在数据挖掘的工业界应用及计算机视觉应用都是非常重要和关键的环节。
端到端的学习方式就是在整个学习流程中并不进行人为的子问题划分，而是完全交给深度学习模型直接学得从原始输入到期望输出的映射。相比分治策略，“端到端”的学习方式具有协同增效的优势，有更大可能获得全局最优解。
对于深度模型，其输入数据是未经任何人为加工的原始样本形式，后续则是堆叠在输入层上的众多操作层。这些操作层整体可被看做一个复杂的函数Fcnn，最终损失函数由数据损失和模型参数的正则化损失共同组成，深度模型的训练则在最终损失驱动下对模型进行参数更新，并将误差反向传播至网络各层。模型的训练过程可以简单抽象为从原始数据向最终目标的直接“拟合”，而中间的这些部件正起到了将原始数据映射为特征(即特征学习)，随后再映射为样本标记(即目标任务，如分类)的作用。
下面是组成Fcnn的各个基本部件。

注：文章选自《解析深度学习—卷积神经网络原理与视觉实践》魏秀参著