深度学习-6.卷积神经网络CNN

最新推荐文章于 2024-05-30 17:13:09 发布
最新推荐文章于 2024-05-30 17:13:09 发布
阅读量565 收藏
点赞数
分类专栏： deep learning 文章标签： 深度学习 cnn 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/bingokunkun/article/details/120745258
版权

卷积神经网络

卷积运算

数学上的卷积

数学上的卷积是一种对两个实变函数的数学运算。公式为 s ( t ) = ∫ x ( a ) w ( t − a ) d a s(t) = \int x(a)w(t - a)\mathbb{d}a s(t)=∫x(a)w(t−a)da

动机

稀疏交互

请添加图片描述
如上图所示，上半部分为卷积，下半部分为矩阵乘法。显而易见的是由卷积产生的连接是稀疏的，只有三个单元会受到 x 3 x_3 x3​的影响。这样就允许网络可以只通过描述稀疏交互的基石来高效地描述多个变量的复杂交互。

请添加图片描述
从上往下看，一个输出单元 s 3 s_3 s3​受到 x 1 , x 2 , x 3 x_1,x_2,x_3 x1​,x2​,x3​的影响，这被称为接受域，也可以很好的说明稀疏性。

参数共享

因为一层卷积函数的卷积核只有一个，所以在不同的位置所采用的参数是完全相同的。

等变表示

等变：若 f ( g ( x ) ) = g ( f ( x ) ) f(g(x)) = g(f(x)) f(g(x))=g(f(x))，则称 f ( x ) f(x) f(x)对于变换 g g g具有等变性。
参数共享的特殊形式可以使神经网络具有对平移等变的性质。同时在边缘检测上相较于矩阵运算提升了数万倍效率。

池化

卷积网络的一个典型层包含三层：卷积 → \rightarrow →探测（整流） → \rightarrow →池化

  • 池化函数对于少量平移时，具有近似不变性
  • 池化综合了全部邻居的反馈，使得池化单元少于探测单元
  • 池化可能会使一些利用自顶向下的神经网络结构变得复杂，如玻尔兹曼机和自编码器

无限强的先验

一个无限强的先验需要对一些参数的概率置零并且完全禁止对这些参数赋值，无论数据对这些参数的值给出了多大的支持。
将CNN作为无限强的先验会导致极大的计算浪费，但能更好地帮助我们观测其是如何工作的。
其中一个关键的洞察是卷积和池化可能会导致欠拟合。

基本卷积函数的变体

  • 添加步长
  • 零填充
  • 非共享卷积（局部连接）：
  • 平铺卷积
  • 以下三层分别为局部连接、平铺卷积、普通卷积
  • 请添加图片描述

结构化输出

卷积神经网络可以输出高位结构化对象，而不仅是一个类别标签。

数据类型

单通道多通道
1d音频波形骨架动画数据
2d使用傅里叶变换后的音频数据彩色图像数据
3d提及数据（医学影像）彩色视频
小坤兽
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
参数共享 稀疏交互 等变表示_卷积神经网络（CNN）
weixin_39637924的博客
12-24 985
[TOC]卷积神经网络(CNN)卷积的定义卷积的数学定义连续形式 $ s(t)= \int x(a)w(t-a)da$, 记作$s(t)=(x\ast w)(t) $离散形式 $ s(t)=\sum_a x(a)w(t-a)$x通常叫做输入，w称为核函数，输出一般叫做特征映射。卷积有对称性质，即$ (x\ast w)(t) = (w\ast x)(t)$, 这个根据定义，然后对积分变量换元一下很容...
2020-2-19 深度学习笔记9 - 卷积网络1（卷积运算，动机-稀疏交互、参数共享、等变表示）
weixin_42555985的博客
03-06 2707
第九章 卷积网络 官网 卷积网络（convolutional network），也叫作卷积神经网络（convolutional neural network，CNN），是一种专门用来处理具有类似网格结构的数据的神经网络。 卷积是一种特殊的线性运算。 卷积运算 在通常形式中，卷积convolution是对两个实变函数的一种数学运算。 关于卷积介绍参见（通俗易懂） https://www.zhihu....
卷积神经网络
shushi6969的博客
05-06 7968
        卷积神经网络也是一种前馈神经网络，是一种专门用来处理具有类似网格结构的数据的神经网络。例如，时间序列数据和图像数据。该神经网络使用了卷积数学运算，是一种特殊的线性运算。卷积神经网络的稀疏交互、参数共享及等变表示等特性使之可以有效地降低网络的复杂度，减少训练参数的数目，使模型对平移、扭曲、缩放具有一定程度的不变性，并具有强鲁棒性和容错能力，且也易于训练和优化网络结构。       下...
《Python深度学习》第2章——深度学习数学基础code
cv小学dl三年级
01-02 191
from keras.datasets import mnist # 加载 MNIST 数据集 (train_images, train_labels), (test_images, test_labels) = mnist.load_data() # 查看图片 import matplotlib.pyplot as plt plt.imshow(test_images[0], cmap=...
自定义卷积神经网络
weixin_43828944的博客
09-06 1577
卷积神经网络与fpga
深度学习---卷积神经网络（CNN）
weixin_48678602的博客
10-12 6508
文章目录1. 什么是深度学习？2. 深度学习框架2.1 卷积神经网络（CNN）2.1.1 引子 ：边界检测2.1.2 CNN的基本概念2.1.3 CNN的结构组成2.1.4 卷积神经网络 VS. 传统神经网络 1. 什么是深度学习？ 深度学习(DL, Deep Learning)是机器学习(ML, Machine Learning)领域中一个新的研究方向，它被引入机器学习使其更接近于最初的目标–人工智能(AI, Artificial Intelligence)。 深度学习是学习样本数据的内在规律和表示层次，
深度学习03-卷积神经网络(CNN)
热门推荐
liaomin416100569的专栏
05-12 3万+
CNN，即卷积神经网络（Convolutional Neural Network），是一种常用于图像和视频处理的深度学习模型。与传统神经网络相比，CNN 有着更好的处理图像和序列数据的能力，因为它能够自动学习图像中的特征，并提取出最有用的信息。CNN 的一个核心特点是卷积操作，它可以在图像上进行滑动窗口的计算，通过滤波器（又称卷积核）和池化层（Max Pooling）来提取出图像的特征。卷积操作可以有效地减少权重数量，降低计算量，同时也能够保留图像的空间结构信息。
深度学习-CNN-卷积神经网络-算法实现-CNN卷积神经网络Matlab实现
05-23
卷积神经网络（CNN）是深度学习中用于图像和视频分析的强大工具，完整的Matlab代码：提供了使用Matlab编写的完整卷积神经网络模型代码，包括前向传播、反向传播以及网络训练的各个步骤。 详细的代码注释：每段代码都...
CNN-深度学习-卷积神经网络.ppt
08-18
人工智能，CNN（深度学习之卷积神经网络）的教学版PPT，讲解的很到位，非常具体，希望对各位有所帮助
机器学习-13. 卷积神经网络、CNN识别图片（下）
07-16
人工智能基础视频教程零基础入门课程 第十三章（下） 人工智能基础视频教程零基础入门课程，不需要编程基础即可...十三章 卷积神经网络、CNN识别图片 十四章 卷积神经网络深入、AlexNet模型 十五章 Keras深度学习框架
机器学习-13. 卷积神经网络、CNN识别图片（上）
07-16
人工智能基础视频教程零基础入门课程 第十三章（上） 人工智能基础视频教程零基础入门课程，不需要编程基础即可...十三章 卷积神经网络、CNN识别图片 十四章 卷积神经网络深入、AlexNet模型 十五章 Keras深度学习框架
机器学习-14. 卷积神经网络深入、AlexNet模型
07-16
人工智能基础视频教程零基础入门课程 第十四章 人工智能基础视频教程零基础入门课程，不需要编程基础即可学习，...十三章 卷积神经网络、CNN识别图片 十四章 卷积神经网络深入、AlexNet模型 十五章 Keras深度学习框架
跟我学神经网络3-卷积神经网络
zhyongquan的专栏
03-03 562
文章目录1. 关键词2. 引言3. 结构4. 卷积4.1 核函数4.2 填充5. 线性整流6. 池化7. 降维采样8. 例子9. 附录9.1 中英文对照表9.2 扩展阅读 欢迎关注《汽车软件技术》公众号，回复关键字获取资料。 1. 关键词 卷积，ReLU，池化，PyTorch，Google Colab 2. 引言 前两章已经学习率基本的神经网络及其求解方法，但神经网络从研究走向实用，还需要进一步...
使用 CNN 训练自己的数据集
2302_77874605的博客
05-29 506
设置优化器BS = 5。
ResNet + LSTM：同时处理空间和时间信息的数据时（如癫痫）的SOTA算法
Debroon
05-27 1161
这篇论文的主要贡献包括提出了一种预处理方法以增强特征提取，通过预训练图像表示来获得有限数据下的最佳性能，并引入了一种结合了ResNet和LSTM的混合模型，以提取时间序列图像数据的多样特征。EEG数据的预处理步骤：展示了单个通道EEG数据的预处理过程，包括原始EEG数据的转换为频谱图像（使用STFT），并进一步的数据增强技术，如频带截断和临时割除。通过这些阶段的处理，可以有效地从复杂的EEG数据中提取有用的信息，并训练出一个鲁棒的机器学习模型，最终提高癫痫管理和治疗的能力。
ERV-Net：一种用于脑肿瘤分割的高效3D残差神经网络| 文献速递-深度学习肿瘤自动分割
最新发布
weixin_38594676的博客
05-30 645
然而，手动分割是一个复杂的项目，因为不同的医师在培训过程中可能具有不同的标准，因此会受到不确定误差的影响（Nyúl，Udupa和Zhang，2000年）。在ERV-Net中，首先利用了计算高效的网络3D ShuffleNetV2作为编码器，以减少GPU内存并提高ERV-Net的效率，然后引入了具有残差块（Res-decoder）的解码器以避免性能退化。特别是，我们提出了一种新颖的后处理方法，充分利用了神经网络的概率和脑肿瘤的分布特性，有效提高了我们的分割性能。表3与模型集成的最先进方法的性能比较。
当代人工智能三教父——深度学习三巨头
心碎烤肠的博客
05-23 2868
今天下午闲来无事翻阅了一下csdn首页的头条文章——《27 岁天才创始人Joel Hellermark分享了自己和“AI 教父”Geoffery Hinton的最新采访》 感觉挺有意思，就从头到尾的看了一遍，里面有很多自己以前从未涉及到的知识，就浅显的整理了一下：
动手学深度学习（Pytorch版）代码实践-深度学习基础-01基础函数的使用
李思成的博客
05-29 283
动手学深度学习（Pytorch版）代码实践-深度学习基础-01基础函数的使用。01基础函数的使用 主要内容 张量操作：创建和操作张量，包括重塑、填充、逐元素操作等。 数据处理：使用pandas加载和处理数据，包括处理缺失值和进行one-hot编码。 线性代数：包括矩阵运算、求和、均值、点积和各种范数计算。 自动求导：使用PyTorch的自动求导功能计算梯度，并演示梯度清除和分离计算图的操作。
详解AI作画原理：从生成对抗网络到卷积神经网络
python12345_的博客
05-29 1541
生成对抗网络和卷积神经网络是AI作画领域最常用的两种技术，它们分别通过对抗训练和特征提取的方式实现了图像的生成和转换。随着人工智能技术的不断发展和进步，我们相信在未来，AI作画技术将会更加成熟和普及，为艺术创作和设计带来更多的可能性和惊喜。通过本文的详细介绍，相信读者对于AI作画的原理和应用已经有了更深入的了解。在未来的学习和研究中，我们期待看到更多创新性的应用和突破性的进展，为AI作画领域注入新的活力和动力。​。
VGG-Net卷积神经网络和cnn卷积神经网络
04-12
CNN（卷积神经网络）是一种深度学习模型，广泛应用于图像识别、语音识别等领域。CNN的核心思想是通过卷积层、池化层和全连接层来提取和学习图像的特征。 CNN的卷积层通过卷积操作对输入图像进行特征提取，可以捕捉...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值