【引言】
添加更多层;层内添加更多单元——》使深度网络能表示复杂性增加的函数;
足够大的模型和标注训练数据集——》深度学习将输入向量映射到输出向量,完成对人来说能迅速处理的任务;
超出深度学习的任务:不能描述为将1个向量和另一个向量相关的任务;对人来说足够困难,需要时间思考和反复琢磨才能完成的任务;等
深度学习背后用到了“参数化函数近似”技术:
(1)表示这些函数的前馈深度网络模型;
(2)正则化和优化上述模型的技术;
(3)将模型扩展到大输入(高分辨图像,或长时间序列),需要卷积网络和循环神经网络;