深度学习——知识梳理篇（已入门）

前言：

本文不太适合深度学习初学者，适合于深度学习已入门的朋友来梳理知识的大纲，里面的一些技术我也会在后面的逐一进行讲解，本文将从过拟合这个问题来贯穿整个深度学习。

一、深度学习模型设计：端到端模型

从输入端到输出端会得到一个预测结果，将预测结果和真实结果进行比较得到误差，将误差反向传播到网络的各个层之中，调整网络的权重和参数直到模型收敛或者达到预期的效果为止，中间所有的操作都包含在神经网络内部，不再分成多个模块处理。由原始数据输入，到结果输出，从输入端到输出端，中间的神经网络自成一体（也可以当做黑盒子看待），这是端到端的，但是我们在学习深度学习的时候不能把它当做黑盒，这不利于我们的学习。

思考怎么把非端到端模型的优点（解释性强+好训练）放到端到端（泛化性强）模型？

二、明白了深度学习的模型设计，我们就来看看解决问题的两种结构：

级联结构：小任务串联