CNN（李宏毅课程）

于 2021-10-29 23:21:13 发布
阅读量112 收藏
点赞数
分类专栏： cv 文章标签： cnn 人工智能 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_40438523/article/details/121044384
版权

CNN李宏毅课程

图像分类

图片的结果表示用one-hot表示
图片的输出就是一个维度相同的向量，我们比较输出和标签用的交叉熵
在这里插入图片描述

图片的输入用一个三维的tensor表示，分别为长宽和channel（RGB）
在这里插入图片描述
问题：输入数据维度太大

简化方法

观察1. 我们发现很多时候我们不需要观察全局信息，只需要观察局部信息
CNN的设置：设置一个receptive field，在CNN中，某个神经元只考虑这个field内的数据。对于所有的field，可以任意设置，可以相同的区域、可以不同的大小、可以不同的channel、甚至可以是长方形
在这里插入图片描述
其中最经典的设置方法是根据一个kernel size（3×3），同一个field会有一组neural守备。不同的field之间的距离为stride（横纵均为2），所以field之间会有重叠。但是这个时候边边会有超出的范围，这里我们使用padding方法，也就是对图像外的部分进行补值。
在这里插入图片描述
观察2
对于不同图片，特征位置出现位置可能不一样（比如鸟嘴），如果想要全面的话，我们就需要在每一个field都要一个监测特征的neural，
这样会导致我们的参数数量太多。
在这里插入图片描述
这里我们用共享参数的想法处理，也就是对于每一个field的所有neural都共享同一组参数，根据监测特征的不同，分别为filter1、filter2…
在这里插入图片描述
这些filter也可以理解为抓取特征的tensor
在第一层时，因为channel为3，故第一层的filter的高度为3的tensor
在第二层时，需要根据第一层filter的数量来确定filter的tensor高度
…
这样一层一层迭代，最终能够覆盖整个图像
在这里插入图片描述
观察3
在这里插入图片描述
比如将原先图片奇数部分的pixel都删掉，但最后不会影响整体效果，这就是pooling操作
max pooling：将一组（2×2）内取最大的值作为区域的代表
min pooling：将一组（2×2）内取最小的值作为区域的代表
pooling实际上就是将图片变小
但近年来运算能力越来越强，这种牺牲部分精度的pooling可以不采用

cx_0401
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
学习笔记 -- 斯坦福课程：CNN for Visual Recognition（一）
毛可的专栏
01-13 2036
去年就想听听这“接地气”的课程了，但最终也没有坚持下来。今年既然有了在线的课程视频，我也开个笔记系列，好好地从基础开始学起吧。由于课程内容还是比较基础，这里只纪录一些个人觉得有趣或者有用的点，更多的内容大家直接去网站上看吧，相信会有不少收获的。
CNN 讲义, 李宏毅, 2021
11-01
李宏毅老师的2021年机器学习课程讲义中详细介绍了CNN的基本架构和设计理念。 首先，CNN的核心是其网络架构，特别适合处理图像数据。在图像分类任务中，假设我们有一个100x100像素的图像，需要识别出猫、狗或树这三...
CNN 计算机视觉课程斯坦福大学report
10-21
斯坦福大学2016CNN与计算机视觉课程学生所做的技术报告，有很多CNN有趣的应用
CNN课程总结
qq_40553793的博客
03-19 146
Rosenbrock function f(x)=(x−1)2+100(y−x2)2f(x)=(x-1)^2+100(y-x^2)^2f(x)=(x−1)2+100(y−x2)2, 用于测试优化器性能 针对这种shallow ravine，使用momentum。 建议初始时γ=0.5\gamma=0.5γ=0.5, 稳定后γ=0.9\gamma =0.9γ=0.9 Hubel Wiesel Arc...
CNN入门教程与实战
hl2015222050145的博客
01-11 4665
一 基本概念 1 全连接，局部连接，权值共享                   全连接：所有输入点都需要与下一个节点相连接                    局部连接：每个节点只与部分节点相连接                    权值共享：每个与输出节点相连接的参数公用          假定：w*h的输入通道数c照片，下一层节点个数：node个，提取的特征个数feat,卷积核
零基础CNN教程
ningyanggege的博客
08-21 2215
全连接网络 VS 卷积网络 全连接神经网络之所以不太适合图像识别任务，主要有以下几个方面的问题： 参数数量太多 考虑一个输入1000*1000像素的图片(一百万像素，现在已经不能算大图了)，输入层有1000*1000=100万节点。假设第一个隐藏层有100个节点(这个数量并不多)，那么仅这一层就有(1000*1000+1)*100=1亿参数，这实在是太多了！我们看到图像只扩大一点，参数数量就会...
李宏毅2021课程资源
最新发布
01-30
人工智能与机器学习是当前的热点，课程中可能有专门的章节讲解神经网络、卷积神经网络（CNN）、循环神经网络（RNN）等，以及如何在实际问题中运用这些技术。 网络安全是另一个重要的话题，课程可能包含密码学基础、...
李宏毅老师语音识别课程
09-12
李宏毅教授可能会介绍卷积神经网络（CNN）、循环神经网络（RNN）以及长短期记忆网络（LSTM）等，这些网络结构在语音识别任务中展现出强大的性能。特别是在序列建模方面，LSTM能够捕捉语音信号的长时间依赖性，从而...
李宏毅机器学习作业3CNN数据testing set 和validation set
12-19
李宏毅教授的机器学习课程中，作业3涉及到卷积神经网络（CNN）的应用，数据集被分为三个部分：训练集（training set）、验证集（validation set）和测试集（testing set）。下面将详细解释这三个部分以及它们在CNN...
李宏毅【课件PPT】
12-07
他的课程广受欢迎，不仅在中国的B站（哔哩哔哩）上有大量的忠实观众，而且在全球范围内也产生了深远影响。这个压缩包文件包含了李宏毅教授的全部机器学习课件，是学习者深入理解机器学习理论和技术的宝贵资源。 ...
李宏毅ML作业3: 食物分类(kaggle预测与报告题目)
07-12
李宏毅ML作业3: 食物分类, kaggle预测与报告题目实作源码, 配合博客阅读: https://blog.csdn.net/lagoon_lala/article/details/118425354
CNN做图片分类——李宏毅CNN作业记录2.0
syh的技术记录
08-22 416
0.前言 写给自己当作记录，是对1.0版本的代码换一种形式。 1.0版本中的代码的模型构建、训练、评估都是手打的，效果肯定没有tf2.0自带的工具好。 在参考tf2.0的官方文档后，把代码换成更简洁有效的方式。实际操作时不管是编程体验还是最后输出效果都比自己手打好太多了（虽然最后的准确率并没有上升）。要提升准确率应该得优化模型，而我的模型还没有变，所以准确率和原来差不多。 本文主要记录下用官方自带的方法去做CNN图片分类的步骤，以后再用时作为快速复习使用。 1.CODE 1.1 先引入需要的第三方库 #im
《李宏毅深度学习》CNN 学习笔记
不积跬步，无以至千里
10-21 1068
视频地址：https://www.bilibili.com/video/av23593949?from=search&seid=135729629224253935 在开始李宏毅的课程之前，首先在3blue1brown简单了解了一下神经网络：https://www.bilibili.com/video/av15532370?from=search&seid=12857298627...
CNN初学者—从这入门
kanghe
04-28 4万+
1、本文是到目前为止我见到过的关于CNN最最小白的入门教程，没有之一！ 2、原文地址：http://xilinx.eetrend.com/article/10827 3、本文仅供学术交流，如果不小心侵犯了大家的利益，还望海涵，并联系博主删除。特别是作者Sanjay Chan！ 4、看完本文，再看看本文后面附带的[1]斯坦福CNN教程，CNN的结构和原理就基本上入门了，特别感谢Sa
终于有个能看懂的CS231n经典CNN课程了：AlexNet/VGG/GoogLeNet（上）
CSDN人工智能头条
10-16 581
大家好，我是禅师的助理兼人工智能排版住手助手条子。今天由条子给大家推送。其实条子对人工智能不是很了解，但是禅师说：你去看看斯坦福的 CS231n 教程就了解了。快拉倒吧。...
深度学习（DL）：卷积神经网络（CNN）：从原理到实现
热门推荐
雪伦的专栏
12-01 5万+
序深度学习现在大火，虽然自己上过深度学习课程、用过keras做过一些实验，始终觉得理解不透彻。最近仔细学习前辈和学者的著作，感谢他们的无私奉献，整理得到本文，共勉。1.前言（1）神经网络的缺陷在神经网络一文中简单介绍了其原理，可以发现不同层之间是全连接的，当神经网络的深度、节点数变大，会导致过拟合、参数过多等问题。（2）计算机视觉（图像）背景 通过抽取只依赖图像里小的子区域的局部特征，然后利用这些特
【Stanford CNN课程笔记】4. 反向传播算法
elaine_bao的专栏
02-15 6080
本课程笔记是基于今年斯坦福大学Feifei Li, Andrej Karpathy & Justin Johnson联合开设的Convolutional Neural Networks for Visual Recognition课程的学习笔记。目前课程还在更新中，此学习笔记也会尽量根据课程的进度来更新。在这一章中，我们将介绍backpropagation,也就是反向传播算法。
CNN
m0_37937932的博客
08-27 696
一、引入CNN的缘由 neural network参数太多，容易过拟合，计算量太大。从这个缺点出发，提出改进。能否利用一些prior knowledge减少整个模型的参数呢？于是CNN诞生了！ 二、CNN设计理念 任何的创新工作都离不开已有的成就，让我们回顾一下fully forward network ，neuron之间采用全连接（导致模型参数多的原因），我们能否不采用全连接方式呢？自然模型参数...
【机器学习】彻底搞懂CNN
weixin_30252709的博客
12-04 304
之前通过各种博客视频学习CNN，总是对参数啊原理啊什么的懵懵懂懂。。这次上课终于弄明白了，O(∩_∩)O~ 上世纪科学家们发现了几个视觉神经特点，视神经具有局部感受野，一整张图的识别由多个局部识别点构成；不同神经元对不同形状有识别能力，且视神经具有叠加能力，高层复杂的图案可以由低层简单线条组成。之后人们发现经过conclusional的操作，可以很好反映视神经处理计算的过程，典型的是1998年L...
李宏毅cnn学习笔记
09-10
＊＊＊授，也是深度学习领域的知名专家。他在课程中有关于卷积神经网络（CNN）的学习笔记，这些学习笔记可以帮助人们更好地理解和应用CNN。 在他的学习笔记中，李宏毅介绍了CNN的基本概念、架构和工作原理。他详细讲解了卷积层、池化层和全连接层等组成部分，以及它们在图像处理中的应用。此外，他还涉及了一些CNN的变体，如残差网络（ResNet）和卷积神经网络的可视化等内容。 李宏毅的学习笔记通常以课程视频和幻灯片的形式呈现，你可以在其课程网站或其他公开渠道上找到相关资源。这些学习笔记对于想要深入了解CNN和深度学习的人们来说是非常有价值的学习资料。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值