学习笔记(03):深度学习之图像识别 核心技术与案例实战-模型优化基本方法

立即学习:https://edu.csdn.net/course/play/26257/326461?utm_source=blogtoedu

紧凑模型——小模型

迁移学习——大的模型，已有的模型设计小模型

全连接层—-》全局池化：减少参数

单层大卷积——》多层小卷积：加深层数，提供非线性表达能力，减少参数

1*1升降维——》输入192个通道，输出128个通道，普通操作（没有中间的隐藏层）为3*3*192*128个参数，使用1*1后（先1*1降维再3*3卷积）1*1*192*96（隐藏层的输出通道数为96）+3*3*96*128（从隐藏层输入96，在输出层输出128）

卷积拆分-》通过1*1实现

卷积分组——》通道、精度、分辨率

量化——减少参数量

利用降低权重和输出的精度的方法来加速模型