深度学习模型设计和优化

目录

数据的收集和预处理

数据的采集和标注（选择单种或多种数据完成任务，是否需要进行预处理）

数据的尺寸和我们要完成的任务有关系

模型选择

什么样的模型最适合完成任务

对多个模型的性能进行预判

模型的训练和优化

参数调优

结构调优

模型部署

 

 模型性能的提升通过加深网络结构leNet(7层)->AlexNet(8层)->B=VGG(16或19层)->mobileNet(28层)

模型的宽度和性能

模型的特征重用，模型的效率

残差网络的改进（多分支denseNet）

分组网络（效率提升优化多分辨率卷积核，多尺度，多精度）

多尺度的结构：图像金字塔，多尺度网格

非正常卷积：带孔卷积（不增加计算量，增大感受野），可变形卷积，非局部卷积

多输入网络：Siamese,

时序任务：RNN，LSTM

三维网络：三维