卷积神经网络

最新推荐文章于 2019-11-05 09:50:00 发布
最新推荐文章于 2019-11-05 09:50:00 发布
阅读量197 收藏 2
点赞数
分类专栏： 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_25800609/article/details/87926614
版权

文章目录

深度学习三部曲

step1:搭建神经网络结构
step2:找到一个合适的损失函数
step3：找到一个合适的优化函数，更新参数

传统神经网络VS卷积神经网络

传统神经网络能用到计算机视觉上吗？为什么还需要卷积神经网络？

  1. 全连接网络处理图像的问题，参数太多。比如一个1000×1000的图片，如果使用全连接层需要10001000hidden units个参数
  2. 卷积神经网络的解决方式
    （1）局部关联：全连接是一个神经元和图片全部有关系，而卷积是和一个局部块儿（即一个kernalSize大小的块）
    （2）参数共享：对比全连接和卷积神经网络，一个1000×1000图片，全连接需要参数1000×1000hidden units，而卷积需要（kernal_w×kernal_h+1）×hidden units少了很多参数

卷积神经网络结构

卷积层

卷积操作，下图表示很清楚，两个3*3的kernal。最后output左上角的那个1=（1+ -1 +0 ）+1

关于卷积操作后的特征图计算
n = ⌊ n + 2 p − f s + s ⌋ n= ⌊ \frac {n+2p-f}{s} +s ⌋ n=⌊sn+2p−f​+s⌋

池化层

作用：保留了主要特征的同时减少参数和计算量，防止过拟合，提高模型泛化能力
特点：一般位于卷积层和卷积层之间，全连接层与全连接层之间
类型：

  1. max pooling 最大值池化
  2. average pooling 平均池化
  3. Global Average Pooling 全局池化层：在yolo中见到，就是对特征图每层全部数值求平均，而不是一个kernal size内

全连接层

特点：

  1. 两层之间所有神经元都有权重链接
  2. 通常全连接层在卷积神经网络尾部
  3. 全连接层参数量通常最大
爱吃糖的茄子
关注
  • 0
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
深度学习之卷积神经网络CNN模式识别VS代码
02-18
深度学习之卷积神经网络CNN做手写体识别的VS代码。支持linux版本和VS2012版本。 tiny-cnn: A C++11 implementation of convolutional neural networks ======== tiny-cnn is a C++11 implementation of convolutional neural networks. design principle ----- * fast, without GPU 98.8% accuracy on MNIST in 13 minutes training (@Core i7-3520M) * header only, policy-based design supported networks ----- ### layer-types * fully-connected layer * convolutional layer * average pooling layer ### activation functions * tanh * sigmoid * rectified linear * identity ### loss functions * cross-entropy * mean-squared-error ### optimization algorithm * stochastic gradient descent (with/without L2 normalization) * stochastic gradient levenberg marquardt dependencies ----- * boost C++ library * Intel TBB sample code ------ ```cpp #include "tiny_cnn.h" using namespace tiny_cnn; // specify loss-function and optimization-algorithm typedef network CNN; // tanh, 32x32 input, 5x5 window, 1-6 feature-maps convolution convolutional_layer C1(32, 32, 5, 1, 6); // tanh, 28x28 input, 6 feature-maps, 2x2 subsampling average_pooling_layer S2(28, 28, 6, 2); // fully-connected layers fully_connected_layer F3(14*14*6, 120); fully_connected_layer F4(120, 10); // connect all CNN mynet; mynet.add(&C1); mynet.add(&S2); mynet.add(&F3); mynet.add(&F4); assert(mynet.in_dim() == 32*32); assert(mynet.out_dim() == 10); ``` more sample, read main.cpp build sample program ------ ### gcc(4.6~) without tbb ./waf configure --BOOST_ROOT=your-boost-root ./waf build with tbb ./waf configure --TBB --TBB_ROOT=your-tbb-root --BOOST_ROOT=your-boost-root ./waf build with tbb and SSE/AVX ./waf configure --AVX --TBB --TBB_ROOT=your-tbb-root --BOOST_ROOT=your-boost-root ./waf build ./waf configure --SSE --TBB --TBB_ROOT=your-tbb-root --BOOST_ROOT=your-boost-root ./waf build or edit inlude/config.h to customize default behavior. ### vc(2012~) open vc/tiny_cnn.sln and build in release mode.
卷积神经网络（CNN）详解
1
08-06 10万+
  一、卷积神经网络的基本概念        卷积神经网络与普通神经网络的区别在于，卷积神经网络包含了一个由卷积层和子采样层（池化层）构成的特征抽取器。在卷积神经网络的卷积层中，一个神经元只与部分邻层神经元连接。在CNN的一个卷积层中，通常包含若干个特征图(featureMap)，每个特征图由一些矩形排列的的神经元组成，同一特征图的神经元共享权值，这里共享的权值就是卷积核。卷积核一般以随机小数...
详解卷积神经网络(CNN)
qq_25762497的博客
04-04 25万+
卷积神经网络（Convolutional Neural Network, CNN）是一种前馈神经网络，它的人工神经元可以响应一部分覆盖范围内的周围单元，对于大型图像处理有出色表现。
VS2013配置Caffe卷积神经网络工具（64位Windows 7）——准备依赖库
BBZZ2的专栏
09-19 2029
2014年4月的时候自己在公司就将Caffe移植到Windows系统了，今年自己换了台电脑，想在家里也随便跑跑，本来也装了Ubuntu可以很方便的配置好，无奈在家的风格是“娱乐的时候抽空学习”，所以移植到Windows还是很有必要的。但是，公司禁止将公司内部资料带出，很多地方又都忘记了，周末磨了一天终于移植完，本篇为记录将Caffe移植至Windows7 x64系统下的一些关键步骤。第一步先看看这
卷积神经网络ppt.pptx
01-21
卷积神经网络（Convolutional Neural Network，CNN）是一种深度学习模型，主要用于图像识别和处理任务。其设计灵感来源于人脑的视觉皮层结构，通过模拟大脑对视觉信息的处理方式，实现了对图像特征的有效提取和学习...
卷积神经网络概述及python实现
02-24
对于卷积神经网络（CNN）而言，相信很多读者并不陌生，该网络近年来在大多数领域都表现优异，尤其是在计算机视觉领域中。但是很多工作人员可能直接调用相关的深度学习工具箱搭建卷积神经网络模型，并不清楚其中具体...
卷积神经网络CNN
06-12
卷积神经网络（Convolutional Neural Network，简称CNN）是深度学习领域中一种重要的神经网络模型，主要用于图像处理和计算机视觉任务。CNN以其独特的结构设计，有效地捕获了图像数据中的空间局部特征，并能进行层次...
深度学习 CNN卷积神经网络 LeNet-5详解
happyorg的博客
10-18 10万+
卷积神经网络（ Convolutional Neural Network, CNN）： 是一种常见的深度学习架构，受生物自然视觉认知机制(动物视觉皮层细胞负责检测光学信号)启发而来，是一种特殊的多层前馈神经网络。它的人工神经元可以响应一部分覆盖范围内的周围单元，对于大型图像处理有出色表现。 一般神经网络VS卷积神经网络： 相同点：卷积神经网络也使用
变形卷积核、可分离卷积？卷积神经网络中十大拍案叫绝的操作。
mmc2015的专栏
08-31 2万+
总结的非常好，故转来，如果侵权，请告知，会及时删掉。 大家还是去看原文好，作者的文章都不错： https://zhuanlan.zhihu.com/p/28749411 https://www.zhihu.com/people/professor-ho/posts 写文章 变形卷积核、可分
零基础入门深度学习(4) - 卷积神经网络
04-11 794
无论即将到来的是大数据时代还是人工智能时代，亦或是传统行业使用人工智能在云上处理大数据的时代，作为一个有理想有追求的程序员，不懂深度学习（Deep Learning）这个超热的技术，会不会感觉马上就out了？现在救命稻草来了，《零基础入门深度学习》系列文章旨在讲帮助爱编程的你从零基础达到入门级水平。零基础意味着你不需要太多的数学知识，只要会写程序就行了，没错，这是专门为程序员写的文章。虽然文中会有
CNN卷积神经网络
猫敷雪
11-05 486
往期回顾 在前面的文章中，我们介绍了全连接神经网络，以及它的训练和使用。我们用它来识别了手写数字，然而，这种结构的网络对于图像识别任务来说并不是很合适。本文将要介绍一种更适合图像、语音识别任务的神经网络结构——卷积神经网络(Convolutional Neural Network, CNN)。说卷积神经网络是最重要的一种神经网络也不为过，它在最近几年大放异彩，几乎所有图像、语音识别领域的重要突破都...
全连接网络和卷积神经网络
女王の专属领地
01-11 8776
全连接神经网络： 不适合做图像识别原因： 参数数量太多   考虑一个输入1000*1000像素的图片，输入层有1000*1000=100万节点。假设第一个隐藏层有100个节点，那么仅这一层就有(1000*1000+1)*100=1亿参数，这实在是太多了！我们看到图像只扩大一点，参数数量就会多很多，因此它的扩展性很差。   没有利用像素之间的位置信息  对于图像识别任务来说，每个像素和其周围...
卷积神经网络概念与原理
热门推荐
yunpiao123456的专栏
09-05 30万+
一、卷积神经网络的基本概念 受Hubel和Wiesel对猫视觉皮层电生理研究启发，有人提出卷积神经网络（CNN），Yann Lecun 最早将CNN用于手写数字识别并一直保持了其在该问题的霸主地位。近年来卷积神经网络在多个方向持续发力，在语音识别、人脸识别、通用物体识别、运动分析、自然语言处理甚至脑电波分析方面均有突破。 卷积神经网络与普通神经网络的区别在于，卷
吴恩达deeplearning之CNN—卷积神经网络入门
ice_actor的博客
11-28 16万+
1.边界检测示例假如你有一张如下的图像，你想让计算机搞清楚图像上有什么物体，你可以做的事情是检测图像的垂直边缘和水平边缘。 如下是一个6*6的灰度图像，构造一个3*3的矩阵，在卷积神经网络中通常称之为filter，对这个6*6的图像进行卷积运算，以左上角的-5计算为例 3∗1+0∗0+1∗−1+1∗1+5∗0+8∗−1+2∗1+7∗0+2∗−1=−53*1+0*0+1*-1+1*1+5*0+
浅析图卷积神经网络
geek_wh2016的博客
05-21 1万+
今天想和大家分享的是图卷积神经网络。随着人工智能发展，很多人都听说过机器学习、深度学习、卷积神经网络这些概念。但图卷积神经网络，却不多人提起。那什么是图卷积神经网络呢？简单的来说就是其研究的对象是图数据（Graph），研究的模型是卷积神经网络。为什么有图卷积神经网络自2012年以来，深度学习在计算机视觉以及自然语言处理两个领域取得了巨大的成功。和传统方法相比，它好在哪里呢？假设有一张图，要做分类，...
深度学习：卷积神经网络详解
"卷积神经网络学习介绍" 卷积神经网络（Convolutional Neural Networks，简称CNN）是一种深度学习模型，特别适用于图像处理和计算机视觉任务。由复旦大学的邱锡鹏教授进行讲解，该资源深入浅出地介绍了CNN的基础...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值