李宏毅《机器学习》笔记6:卷积神经网络

今天我们重点介绍卷积神经网络,即CNN。

CNN架构

请添加图片描述

在图像识别领域,CNN是这样工作的:首先我们输入一张猫猫的图片,这张猫图可通过卷积层的运算,进入Max Pooling,再把输出结果作为下一个卷积层的输入,再进入Max Pooling,以此类推,这取决于你一开始设定CNN有几层。最终我们得到影像辨识的结果。。。。

Convolution

请添加图片描述

我们假定现在的input是一张6x6的图,而且这张图仅仅是黑白图,故每个像素点只用1,0即可代表。在卷积层中,其实对应的由一组filter组成,这里的filter可以类比之前讲过的全连接神经网络里的神经元。这里的filter是一个3x3的矩阵,矩阵中的每个参数是需要学习的,并不是人为设定的。

有了这样一组filter后,比如对于filter1来说,我们把它“覆盖”在那张6x6的图的左上角,这里所谓覆盖不是真的覆盖,而是将filter这个矩阵与输入的图的左上角对应的矩阵作内积,如下图所示:

请添加图片描述

比如filter1作内积的结果就是3,然后将filter1往右移动一格,具体移动的步数叫stride,是自己设定的,这里假设stride=1,也就是每次只移动一格。再作内积,然后得到-1,以此类推。。。。。每行都这么干,直到移动到右下角,这样一来,我们把每次作内积的结果再组成一个矩阵,如下图:

请添加图片描述

这个过程其实是一个矩阵压缩降维的过程,我们成功的将6x6的矩阵变成一个4x4的矩阵。filter的作用是鉴别原图中哪些地方有主对角线为1的矩阵,比如上图中框柱的2个3,表明原图的左上角和左下角是一样的。

如果我们的图不是黑白色,而是彩色的呢?那我们的输入矩阵就不再是一个二维矩阵了,每个像素点应该由RGB三原色来组成,所以输入的应该是一个立方体,或者说三维矩阵。

Convolution和Fully connected之间的关系

一句话概括:卷积其实就是全连接层中把一些边上的权重(weight)去掉的结果。

比如下图:

请添加图片描述

我们把6x6阵从左往右,从上往下,把它拉成一排,就变成了一个9输入的全连接层神经网络。

Max Pooling

请添加图片描述
请添加图片描述

这一步的操作很简单,就是将上面内积得到的4x4矩阵分成4块,如上图所示,然后每一块中的元素取平均,或者取最大,这里我们选择取最大,得到下图:

请添加图片描述

通过上面的操作,我们实际上是把一个6x6的矩阵变成了2x2的矩阵。

请添加图片描述

上面的操作可以重复很多次,得到更小的矩image。如上图所示,这个新的image我们叫做feature map,把feature map拉直,就得到flatten,拉直之后丢到全连接前馈神经网络里训练,就结束了!如下图:

请添加图片描述

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 2
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值