卷积核(又叫filter,neuron)，设计CNN layers的技巧

已于 2022-10-22 17:38:27 修改
阅读量329 收藏
点赞数
分类专栏： 李宏毅机器学习 Notebook 文章标签： cnn 深度学习 人工智能
于 2022-10-18 21:39:07 首次发布
原文链接：https://www.bilibili.com/video/BV1JA411c7VT?p=10
版权

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

loss entropy求导，为0，那么该怎样求导呢？

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

并行计算
视频：
https://www.bilibili.com/video/BV1Ht411g7Ef/?p=13

在这里插入图片描述
CNN的术语
在这里插入图片描述
共享参数
在这里插入图片描述
第二种版本解释CNN：
在这里插入图片描述
前一个64个filter，通过的为64个Chanel

在这里插入图片描述
不同的颜色对应不同的weight
在这里插入图片描述
卷积核(又叫filter,neuron)

设计layers的时候
convolutional layers与pooling交替使用；
在这里插入图片描述

实际设计layers的时候，要考虑不同的特性：
例如go中没有用pooling层
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
视频：
https://www.bilibili.com/video/BV1JA411c7VT?p=10

inf-inf
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
如何设计卷积神经网络CNN？
weixin_43201920的博客
05-10 7464
卷积神经网络CNN的设计 知乎——CNN 网络应该如何设计？ 回答1：网络多一层和少一层, 好像没什么区别. 但这样一层层测试调参未免太狗血了.一种挺好的方法是: 设计一种或几种block(这block由几层网络构成), 然后堆这种block. 这样看起来舒服多了,参考resnet网络结构(其实很多优秀网络都是这样的设计)至于每层的通道数, VGG有个设定是: 输出的feature map大小相同时,卷积核个数也相同输出的feature map大小减半(被stride=2的卷积或Pooling后), 则
卷积核设计
prinTao的博客
10-12 455
奇数卷积核和偶数卷积核 “Convolution with even-sized kernels and symmetric padding” 这篇论文，解释了偶数卷积核对网络的影
卷积滤波核的设计
bemy1008的博客
03-31 3055
转载自：https://blog.csdn.net/xue_csdn/article/details/99077718 参考：https://www.cnblogs.com/zongfa/p/9130167.html 卷积核就是一个二维mxm矩阵。二维图像与二维矩阵卷积之后的结果，就实现了对图像的滤波。 卷积核一般有以下一些规则： m的大小应该是奇数，这样它才有一个中心，例如3x3，5x5或者7...
CNN Layers
肆拾柒分半
11-03 1292
Layers and Implements CNN网络主要包括卷积层、池化层、全连接层等。 Convolution Layers Single channel 1.No padding 给定一张5X5的单通道的灰度图像和一个3X3的卷积核，从左上角开始将对应位置的数字相乘再求和，kernel 依次滑动stride=1，计算得到右侧的结果； 输入输出的尺寸关系为： Widthout=⌊Width...
【卷积核设计】10、Scaling Up Your Kernels to 31x31 | CNN 中也能使用超大卷积核
呆呆的猫的博客
03-22 7109
文章目录一、背景二、方法四、RepKLNet：a Large-Kernel Architecture4.1 结构 论文链接：https://arxiv.org/pdf/2203.06717.pdf 代码链接： 一、背景 CNN 虽然在计算机视觉上处于长期的统治地位，但由于基于 transformer 方法的提出，这一现象发生了改变。比如 ViT，已经在分类、特征学习、目标检测、语义分割、图像复原等方面都取得了超越 CNN 的效果。 有人认为 ViT 的效果离不开 MHSA （多头自注意）的结构，也有人替换了
CNN 卷积神经网络
04-22
The first CNN appeared in the work of Fukushima in 1980 and was called Neocognitron. The basic architectural ideas behind the CNN (local receptive fields,shared weights, and spatial or temporal ...
Axis Neuron软件
03-05
"Axis Neuron软件"是一款专为Perception Neuron设备设计的定位软件，它在虚拟现实（VR）和增强现实（AR）领域中扮演着重要角色。这款软件的主要功能是为Perception Neuron运动捕捉系统提供精确、实时的运动追踪，...
计算卷积的matlab代码-sos-neuron:数学568最终项目
05-23
计算卷积的matlab代码该代码包含几个部分，专门讨论了该项目中进行的不同实验。 2d_HH_poly SOS_neuron.m/SOS_neuron_2.m/SOS_neuron_3.m/SOS_neuron4.m/ ：这些文件旨在尝试使用小于10度的多项式来近似m_inf ^ 3。 ...
NEURON-UI:NEURON用户界面
05-16
使用Docker图形界面安装NEURON-UI（Kitematic） 从Docker菜单打开Kitematic（如果尚未安装Kitematic，则将其安装） 搜索Neuron-ui并创建容器。 启动该容器，然后单击Web预览以启动它。 无需使用命令行，尽情享受...
水厂全分布式管控一体化网络前端智能节点与Neuron C程序设计
01-29
这里介绍构建基于Lorworks的水厂管控一体化网络的方法和途径，包括前端测控设备的配置、智能节点的配置和Neuron C编程。最后给出输入输出控制程序，供参考。这是一种真正全分布式管控一体化网络的前端智能节点配置与...
【机器学习合集】模型设计之卷积核设计 -＞（个人学习记录笔记）
slience_me的博客
10-30 658
【机器学习合集】模型设计之卷积核设计 -＞（个人学习记录笔记）
简单神经网络的设计
damofengzhong的博客
11-25 1518
神经网络基础 在使用的神经网络之前必须确定神经网络的层数，以及神经元所对应的个数 特征向量的被传人到神输入层的时候，通常先进行标准化的处理到0-1之间，这样是可以加速学习的过程的。 交叉验证：我们是把一份数据，首先是分为10份，其中第一份是对应的测试集，后面9份是对应的训练集 在第二次进行训练的时候，我们把第二份做为测试集，1 3-10作为训练集，这样就是来训练10次，这样 就是取得每一次的准确性后，然后是把这10次准确性，来求出相应的平均值的过程的。 神经网络训练的停止的条件是： 权重的更新是低于某个伐值
深度学习：卷积神经网络中的卷积核
热门推荐
Vermont_的博客
09-20 6万+
卷积核就是图像处理时，给定输入图像，输入图像中一个小区域中像素加权平均后成为输出图像中的每个对应像素，其中权值由一个函数定义，这个函数称为卷积核。又称滤波器。 同样提取某个特征，经过不同卷积核卷积后效果也不一样（这是个重点，为什么说重点，因为CNN里面卷积核的大小就是有讲究的）。 比如说： 可以发现同样是锐化，下图5x5的卷积核要比上图3x3的卷积核效果细腻不少。 说了这么多，我只想说明， （1）原始图像通过与卷积核的数学运算，可以提取出图像的某些指定特征（features)。 （2）不
一文看懂variant convolutions
驽马十驾，功在不舍；锲而不舍，金石可镂。
12-17 3461
一文看懂普通卷积、反转卷积以及空洞卷积 convolution、 transform convolution、dilated convolution 首先是普通卷积 新的改变 我们对Markdown编辑器进行了一些功能拓展与语法支持，除了标准的Markdown编辑器功能，我们增加了如下几点新功能，帮助你用它写博客： 全新的界面设计 ，将会带来全新的写作体验； 在创作中心设置你喜爱的代码高亮样式，...............
卷积核为什么要设计成正方形
weixin_38241876的博客
05-18 1746
因为长方形会对数据做一些抽象化处理
Tensorflow中的CNN layer参数（即用tensorflow框架实现简单CNN）
LilyNothing的博客
10-23 6054
这篇文章主要以LeNet在tensorflow中的实践作为基础进行讲解。主要是一些基本代码的分析。至于LeNet这个网络的详解，可以参考： LeNet详解一、tensorflow中提供的函数对于CNN网络来说，tensorflow基本的两个提供的函数分别是： tf.nn.conv2d()和 tf.nn.bias_add() ，那么用这两个基本的函数来构造LeNet，那么先来看看整体的架构是怎样的
卷积神经网络CNN-卷积层
weixin_58420524的博客
02-04 1947
CNN卷积神经网络的卷积层详解，对卷积进行实例的理解，以及图像卷积操作。
概念学习（一）：卷积核/过滤器、特征图（featue map）、卷积层
weixin_41943311的博客
07-02 1万+
作为基础学习，建议先看一看电子版的： [美] Michael Nielsen著，Xiaohu Zhu/Freeman Zhang译：《神经⽹络与深度学习》（Neural Networks and Deep Learning） 这本书深入浅出，把神经网络的基本原理讲得比较清楚。 人们把feature map翻译成特征图，把channel翻译为通道。有时这二者说的是同一件事；但有时强调输入...
卷积神经网络CNN
weixin_42374938的博客
01-04 1091
一、什么是神经网络 如上图所示，神经网络由输入层、隐藏层和输出层组成，每一层都由若干结点组成，每一个结点可以视为一个神经元。 1、逻辑回归 逻辑回归是一种广义的线性分类回归模型。逻辑回归的因变量是可以二分类，也可以多分类，但是二分类更为常用。 上面函数通过线性拟合得到z，再将z代入到Sigmoid函数中得到了a。 如上图所示，纵坐标是a，当（z，a）=（0，0.5）时正好是整个图像的分界点。当z>0，说明函数值a在0.5的上方，属于一个类别；当z<0说明函数值a在0.5的下方，属于另一个类别
filter是神经元还是卷积核
最新发布
06-13
滤波器（Filter）在神经网络中通常指的是卷积核（Convolutional Kernel），而不是神经元。卷积核是深度学习中卷积层（Convolutional Layer）的核心组成部分，它们是固定大小的矩阵，用于在输入数据上进行滑动窗口...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值