day06-卷积神经网络

本文深入探讨了卷积神经网络(CNN)的基础知识和工作原理。CNN以其独特的卷积层和池化层简化了图像处理任务,通过权值共享减少连接并降低过拟合风险。卷积层的特征平面和共享卷积核是其核心概念,而池化层则用于维度减小。尽管CNN存在尺度和旋转不变性的不足,但通过数据增强等手段可以弥补。博客中提到,CNN在图像识别等领域有着广泛的应用。
摘要由CSDN通过智能技术生成


心得体会

本次主要学习了卷积神经网络。卷积神经网络与普通神经网络的区别在于,卷积神经网络包含了一个由卷积层和子采样层构成的特征抽取器。在卷积神经网络的卷积层中,一个神经元只与部分邻层神经元连接。在CNN的一个卷积层中,通常包含若干个特征平面(featureMap),每个特征平面由一些矩形排列的的神经元组成,同一特征平面的神经元共享权值,这里共享的权值就是卷积核。卷积核一般以随机小数矩阵的形式初始化,在网络的训练过程中卷积核将学习得到合理的权值。共享权值(卷积核)带来的直接好处是减少网络各层之间的连接,同时又降低了过拟合的风险。子采样也叫做池化(pooling),通常有均值子采样(mean pooling)和最大值子采样(max pooling)两种形式。子采样可以看作一种特殊的卷积过程。卷积和子采样大大简化了模型复杂度,减少了模型的参数。

在这里感谢datawhale开源社区的小伙伴们给予的学习帮助,今后的学习也要一样加油呀


提示:以下是本篇文章正文内容

卷积神经网络(Convolutional Neural Network,简称CNN),是一种前馈神经网络,人工神经元可以响应周围单元,可以进行大型图像处理。卷积神经网络包括卷积层和池化层。使用CNN可以简化神经网络的架构,通过借用power-knowledge把原来fully-connected layer中的一些参数去掉,就形成了CNN。

基础简介

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

基本原理

1.在CNN之前将图片调整到一样的大小

2.决定一个receptive field size,一般取333(长,宽,number of channels),这些receptive field最好能重叠以防交界线位置的pattern被遗漏,并cover整个image。决定filter的数量,将这些filter与image相比,得到featuremap,并将feature map当作新的image,再进入convolution layer进行识别。虽然一开始我们的kernelsize 比较小,但是随着层数越多,cover 原图形中的范围就会越来越大。

3.为了简化,the neuron with different receptive fieldsshare parameters.

4.为了简化,在一个convolution layer之后可以使用pooling来减少维度,例如max pooling,就是取一个receptive field里面最大的那个数。但是pooling会伤害到performance,因此可以选择不用,例如Alpha Go就没用pooling.

5.CNN的不足之处是,it is not invariant to imagescaling and rotation, need data augmentation, or useother methold like spatial transformer layer.

简化版的DNN,拿掉特定层中的参数,为什么允许拿掉一些参数呢?
基于每层只做特定的事情,也即是说识别图像的部分特征,这样是不需要整张图片的信息。

不同区域但目标相同的特征识别是不需要两种不同的探测器实现的,两个神经元不需要做两组参数,两个神经元共用一组参数即可。

类似于降低图片的像素(参数)不影响人对图片的识别。
前两个问题可以用convolution卷积处理,可以用Pooling池化处理
卷积convolution

黑白的图片输入的是用矩阵表示的像素,过滤器也是矩阵
彩色图片的输入是由RGB三原色组成的三个矩阵体,相应的过滤器是三个矩阵组成的立方体

先做卷积,卷积出来的矩阵分成四块,选取每块最大的值代表该区域,便形成了一个2*2的矩阵,代表一个新的图像,将所有简化后的矩阵组成的立方体拉直就是Flatten的过程


参考资料:

机器学习视频:https://www.bilibili.com/video/BV1Ht411g7Ef

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值