立即学习:https://edu.csdn.net/course/play/26257/326461?utm_source=blogtoedu
紧凑模型——小模型
迁移学习——大的模型,已有的模型设计小模型
全连接层—-》全局池化:减少参数
单层大卷积——》多层小卷积:加深层数,提供非线性表达能力,减少参数
1*1升降维——》输入192个通道,输出128个通道,普通操作(没有中间的隐藏层)为3*3*192*128个参数,使用1*1后(先1*1降维再3*3卷积)1*1*192*96(隐藏层的输出通道数为96)+3*3*96*128(从隐藏层输入96,在输出层输出128)
卷积拆分-》通过1*1实现
卷积分组——》通道、精度、分辨率
量化——减少参数量
利用降低权重和输出的精度的方法来加速模型