吴恩达深度学习学习笔记——C4W2——深度卷积网络实例探究-2

 

1.5 网络中的网络以及1×1卷积

1*1卷积类似于一个半侧节点数可伸缩的全连接层，这里的半侧节点数等于滤波器的数量。当滤波器个数小于输入层的通道数时，相当于降维操作；当滤波器个数大于输入层通道数时，相当于升维操作。

 

 

1.6 谷歌Inception网络简介

Inception网络的创意：需要使用多大的滤波器？1*1， 3*3，5*5还是池化层？为什么不一起完成所有这些任务？

 

卷积运算中面临着计算成本很高的问题

 

使用1*1卷积可以将卷积运算成本降低一个数量级

 

 

1.7 Inception网络

Inception模块

 

Inception网络

 

“We need to go deeper!” 表明了深度学习研究者追求更深层次网络的决心。

 

 

1.8 使用开源实现方案

仅仅阅读文献来学习和研究深度学习是不现实的，利用开源资源是个不错的选择！

 

 

1.9 迁移学习

如果我们手头的数据量不够大，使用别人已经训练好的模型数据（代码、权重）作为预训练数据（pre-trained）是个不错的选择，称为“迁移学习”。

 

 

1.10 数据扩充

使用色彩偏移增广数据

 

使用增广数据进行训练

 

 

1.11 计算机视觉现状

手动作业（hand-engineering）在数据量较小等情况下在所难免，数据量较大时，有利于减少对手动作业的依赖

 

赢得竞赛的一些技巧（集成学习、多剪切）

 

使用开源代码