Convolutional Neural Network(CNN)- Hung-yi Lee

最新推荐文章于 2024-07-24 08:57:32 发布
最新推荐文章于 2024-07-24 08:57:32 发布
阅读量1.6k 收藏 9
点赞数 3
分类专栏： MachineLearning
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/chitoseyono/article/details/88564721
版权

CNN过程

CNN（Convolutional Neural Network）有三个特征。
在这里插入图片描述

Convolution

用Convolution实现Property1和Property2:设计多个Filter对全图进行过滤寻找pattern（如下图，每次从原图选3*3与filter内积，能够寻找如filter1那样对角线的pattern，数值越大特征越好，且因为用的是同一个filter，即使特征出现在不同地方也没关系，然后再用下一个filter2找第二个特征，最后就能得到4*4的feature map）
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

Max pooling

实现Property3的Max pool：只保存一部分范围内最大的
在这里插入图片描述
在这里插入图片描述
就能得到：
在这里插入图片描述
最后：
在这里插入图片描述
在这里插入图片描述

CNN学了啥

  1. 如果想知道那些filter的作用，那么对每一个filter所产生的feature map算他的a的值（activation)，然后用梯度上升来求这个filter能activated最大的程度，这时候输出的图像就是filter要找的pattern
    在这里插入图片描述在这里插入图片描述
  2. 如果是看后面的fully connected network每一个neuron的作用，则在这里插入图片描述3.但如果用output来gradient ascent产生的就是左边那些东西，这是因为深度学习学习到的内容跟我们学习的不太一样。
    在这里插入图片描述
    对于数字很明显数字空白的地方是很多，所以其实可以对于这个加上constrain来让他生成更像数字的图像，虽然不是数字但已经有了数字轮廓（实际上就是L1正则化）在这里插入图片描述
chitoseyono
关注
  • 3
    点赞
  • 踩
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
机器学习 李宏毅 L21-Convolutional Neural Network
okgagaga的博客
01-30 380
CNN设计的初衷 CNN最初用于影像分类等。 1. Fully connected NN的效率较低。对于特殊的部分检测，可以只使用图片的某些小部分就可以实现，这样可以简化参数； 2. 针对图像不同位置的相同特征，可以去除一部分冗余的神经元，降低参数； 3. 图像进行降采样，不会影响图像的形状。因此我们可以对图像进行降采样，降低参数。 CNN的基本架构如下图所示，包括一次或多次的convo
【2011-2016】 NIPS汇总 - Advances in Neural Information Processing Systems
Testing的博客
10-02 1万+
Advances in Neural Information Processing Systems 24 (NIPS 2011) The papers below appear in Advances in Neural Information Processing Systems 24 edited by J. Shawe-Taylor and R.S. Zemel and P.L.
Convolutional Neural Network Hung-yi Lee 卷积神经网络 李宏毅
LIWEI940638093的博客
11-07 634
Convolutional Neural Network
卷积神经网络（Convolutional Neural Networks, CNN）
最新发布
hong161688的博客
07-24 858
CNN是一种包含卷积计算且具有深度结构的前馈神经网络，通过模拟人脑视觉系统的工作原理，利用卷积层、池化层等结构，从数据中自动提取并学习特征，实现高效且准确的分类、识别等任务。CNN的主要特点包括局部连接、权值共享和平移不变性，这些特点使得CNN在处理图像等具有网格结构的数据时具有显著优势。
初学CNN from Hung-yi Lee 's ML
heheSakura的博客
11-27 1012
久违的学习笔记，在周围大佬们的陪（压）伴（力）下，不得不给自己学习的压力啊！ 周五就要做报告了，得赶快写点笔记、总结。前面几课笔记周五补上，给自己挖个坑，记得填。 废话不说，拿出朕的小本本开写。 CNN（Convolutional Neural Network）卷积神经网络 听名字就觉得很吓人，卷积什么的！1. What’s CNN?1.1 CNN定义定义1. 一种专门用来处理类似网格结构的数据的
卷积神经网络（Convolutional Neural Network, CNN）
Rainbow
12-19 1983
神经元 neurons 1. 生物神经网络，通过刺激形成新的连接，信号通过新的连接传递而形成反馈。 人工神经网络，所有神经元之间的连接都是固定不可更换的，不可凭空产生新连接。 2. 依靠正向和反向传播，形成更好的神经系统。 3. 把神经元设计成三个维度： width, height, depth(描述神经元)。 eg. 输入图片大小32*32*3(rgb)...
CVPR 2021最全论文开放下载！附pdf下载链接！
中科院AI算法工程师的博客
06-18 1万+
CVPR 2021最全论文开放，附所有pdf下载链接！
AAAI 2022 论文列表
gbstack08的专栏
02-15 2万+
链接及代码之后会更新 GitHub链接：https://github.com/gbstack/AAAI-2022-papers Scaled ReLU Matters for Training Vision Transformers Pichao Wang, Xue Wang, Hao Luo, Jingkai Zhou, Zhipeng Zhou, Fan Wang, Hao Li, Rong Jin Search Strategies for Topological Network Optimizat
顶会速递 | ICLR 2020录用论文全集
语言智能技术笔记簿
03-10 1万+
由深度学习三巨头Yoshua Bengio和Yann LeCun牵头创办的人工智能顶会ICLR今年最终收到2594篇投稿，共687篇论文被接收，其中48篇orals，108篇spotlights，531篇posters，录取率为26.5%，相比去年的31.4%略有下降。华人学者占比为47%。这篇博客为大家列出全部录用的论文列表，方便大家自取。
Vision Transformer综述翻译
Yore_的博客
03-30 1841
视觉Transformer综述 摘要 ​ Transformer是一种基于最初应用在自然语言处理领域上的自注意力机制的深度神经网络。受Transformer强表征能力的启发，研究人员将它扩展到计算机视觉任务上。与卷积网络和循环网络等其他网络类型相比，基于Transformer的模型在各种视觉基准上表现出竞争性甚至更好的性能。在这篇文献综述，我们通过将这些可视化Transformer模型应用在不同类别的任务中，并且对它们的优缺点进行了分析。特别地，主要类别包括基本图像分类、高级视觉、低级视觉和视频处理。也会
Convolutional Neural Networks.pdf
03-04
Convolutional Neural Networks are very similar to ordinary Neural Networks from the previous chapter: they are made up of neurons that have learnable weights and biases. Each neuron receives some inputs, performs a dot product and optionally follows it with a non-linearity.
卷积神经网络（convolutional neural network, CNN）
热门推荐
qq_41536160的博客
05-28 6万+
基本定义 卷积神经网络(convolutional neural network, CNN)，是一类包含卷积计算且具有深度结构的前馈神经网络。卷积神经网络是受生物学上感受野（Receptive Field）的机制而提出的。卷积神经网络专门用来处理具有类似网格结构的数据的神经网络。例如，时间序列数据（可以认为是在时间轴上有规律地采样形成的一维网格） 和图像数据（可以看作是二维的像素网格）。 1.卷积层（convolutional layer） 作用：特征提取 卷积层内部包含多个卷积核，组成卷积核的每个元素都
Convolutional Neural Networks & CNN Application-2
smoggyxhdz的博客
09-08 391
版权为吴恩达老师所有，参考Koala_Tree的博客，部分根据自己实践添加 使用google翻译，部分手工翻译 你可能需要的参考资料https://pan.baidu.com/s/1y_pb9HiAIBwQVKuMG_ZONw 第2部分：卷积神经网络：应用 欢迎来到课程4的第二个作业！在这个笔记本中，您将： 实现在实现TensorFlow模型时将使用的辅助函数 使用TensorFlow...
李宏毅老师课程：Convolutional Neural Network
APythonC的博客
07-30 498
卷积神经网络Why CNN for Image？Three Property for CNN Theory BaseThe Whole CNN StructureCNN – ConvolutionProperty 1Property 2Feature MapColorful imageConvolution V.s. Fully ConnectedCNN – Max PoolingOperation of max poolingConvolution + Max PoolingFlatten Why CNN
【李宏毅机器学习笔记】9、卷积神经网络（Convolutional Neural Network，CNN）
ACL_lihan的博客
02-20 1508
【李宏毅机器学习笔记】1、回归问题（Regression） 【李宏毅机器学习笔记】2、error产生自哪里？ 【李宏毅机器学习笔记】3、gradient descent 【李宏毅机器学习笔记】4、Classification 【李宏毅机器学习笔记】5、Logistic Regression 【李宏毅机器学习笔记】6、简短介绍Deep Learning 【李宏毅机器学习笔记】7、反向传播...
卷积神经网络 convolutional neural network
bemachine的专栏
01-01 2994
本文主要介绍卷积神经网络的结构， 训练。 1. 什么是卷积
台大Hung-Yi Lee Machine Learning 学习笔记——Regression
我的心拜仁的博客
09-28 1043
台湾大学李宏毅《机器学习》第一节Regression 学习笔记
卷积神经网络的三个特点,卷积神经网络三大特点
神器榜
10-12 8460
卷积神经网络（Convolutional Neural Network,CNN）是一种前馈神经网络，它的人工神经元可以响应一部分覆盖范围内的周围单元，对于大型图像处理有出色表现。[1] 它包括卷积层(alternating convolutional layer)和池层(pooling layer)。卷积神经网络是近年发展起来，并引起广泛重视的一种高效识别方法。
Multi-column Convolutional Neural Network
04-27
Multi-column Convolutional Neural Network (MC-CNN) 是一种卷积神经网络，它在输入图像的不同位置和尺度下使用多个卷积核来提取特征。MC-CNN 是一种非常常见的图像分类和目标检测算法，并且在计算机视觉领域中被...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值