[ADAS预研笔记]基础知识 - 深度学习与深度学习框架

深度学习 Deep Learning, DL

深度学习是机器学习的子集，它基于人工神经网络。学习过程之所以是深度性的，是因为人工神经网络的结构由多个输入、输出和隐藏层构成。每个层包含的单元可将输入数据转换为信息，供下一层用于特定的预测任务。得益于这种结构，机器可以通过自身的数据处理进行学习。

深度学习与机器学习和人工智能的关系见图：

深度神经网络 Deep Neural Networks, DNN 

深度学习的概念用于区别传统的机器学习，深度神经网络的概念用于区别普通的神经网络。深度神经网络可以看作深度学习的手段。

目前经常使用的深度神经网络模型主要有卷积神经网络(CNN)、递归神经网络(RNN)、深信度网络(DBN)、深度自动编码器(AutoEncoder)和生成对抗网络(GAN)等。

汽车自动驾驶领域常用到CNN进行图像分类、目标检测、语义分割；用RNN进行追踪。

深度学习框架 Deep Learning Framework

在深度学习初始阶段，每个深度学习研究者都需要写大量的重复代码。为了提高工作效率，这些研究者就将这些代码写成了一个框架放到网上让所有研究者一起使用。此即 深度学习框架。

从深度学习框架中可以选择已有的模型，通过训练得到模型参数，也可以在已有模型的基础上增加自己的layer，或者是在顶端选择自己需要的分类器和优化算法。

常用的深度学习框架有：Tensorflow，Caffe，Theano，MXNet，Torch，PyTorch，PaddlePaddle，Microsoft-CNTK，Darknet等（Darknet即是框架同时也是YOLO的backbone网络名）；

其他相关概念还有：框架的API接口库如Keras；用于各框架之间模型转换的ONNX等。