机器学习笔记：卷积神经网络（CNN）基础知识

最新推荐文章于 2020-10-04 15:55:39 发布
最新推荐文章于 2020-10-04 15:55:39 发布
阅读量402 收藏 3
点赞数
分类专栏： 机器学习 数据结构 一些学习随笔 文章标签： 机器学习 深度学习 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_43128902/article/details/106483075
版权

卷积神经网络（CNN）

一. ImageNet图像分类大赛（ILSVRC）

ImageNet是针对超过1500万个物品的高分辨率图像的数据集，大约有22,000个类别。图像是从网上收集的，并由人工使用Ama-s Mechanical Turk工具进行标记。2010-2017，作为Pascal视觉对象挑战赛的一部分，举办了名为ImageNet大规模视觉识别挑战赛（ILSVRC）的年度比赛。ILSVRC使用ImageNet的一个子集，在1000个类别中分别拥有大约1000个图像。总之，大约有120万个训练图像，50,000个验证图像和150,000个测试图像。
ILSVRC具体细节
Top-5错误率是指：对于一个物品，列出5个可能的分类结果，如果有一个是正确的即判定此次分类正确。
ImageNet图像分类大赛历年top-5错误率
2012年错误率突然大幅下降，正是因为此次的冠军正是使用了CNN这种结构，12年之前的大部分比赛模型使用的都是浅层模型。
传统的图像分类方法往往需要面临的一个问题就是特征提取，对于一种图像分类算法，不同的特征提取方法得到的分类准确度可能大相径庭，而CNN的便利之处就在于可以自动的提取图像的特征。

二. 卷积神经网络结构

一个经典的卷积神经网络结构主要分为五个部分，输入层，卷积层，下采样层，全连接层以及输出层。
在这里插入图片描述
输入层：通常作为CNN的第一层，为了方便卷积运算，输入一般是固定大小的图像。
卷积层：卷积层是CNN的特征提取层，主要对输入层的图像进行卷积运算，提取图像特征；卷积层由一个个的卷积核组成，一般来说特征提取的能力跟卷积核的数量成正比。
下采样层：下采样又叫做池化层，该层通过计算一个区域内像素的平均值，在尽量保护图像信息的前提下对数据进行降维，加快网络的训练速度。
全连接层：全连接层类似于感知机的隐含层部分，全连接层可以有多个，它的作用是整合之前各个部分提取的特征值。
输出层：输出层的节点数跟神经网络的具体应用有关。如果神经网络的任务是分类的话，那么输出层通常是一个分类器。比如softmax分类器，支持向量机等等。

三. 卷积神经网络举例：AlexNet

AlexNet是深度学习教父Hiton和他的学生一同设计的，该网络斩获了2012年ILSVRC的冠军，那篇经典的论文：《ImageNet Classification with Deep Convolutional Neural Networks》仅仅在百度学术上就被引用了2.6万多次。
AlexNet的结构如下，五层的卷积层和三层的全连接层，其中第一、第二、第五层之后跟有下采样层，其是针对1000类物品进行分类的。

在这里插入图片描述
利用MATLAB中的深度学习工具箱可以很方便的调用Alexnet，通常可以很方便的将其应用的自己的分类任务中进行迁移学习，在这里介绍下用Alexnet进行分类的代码。利用Alexnet进行分类的代码如下：

net = alexnet; %调用Alexnet
figure(1)
J = imread('banana1.jpg');%选择要分类的图像
imshow(J)
I = imresize(J,[227,227]); %将其设置为输入层的图像大小
Label = classify(net,I)    %判断图像种类
figure(2)
imshow(I)

原图
处理过后的输入图像
在这里插入图片描述
分类结果显示的是banana（emmm看来网络不能分辨香蕉和香蕉皮）。

Mappyland
关注
  • 0
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
cnn输入层_卷积神经网络（一）：发展史与输入层
weixin_39805529的博客
11-20 1499
提到深度学习，想必各位小伙伴对卷积神经网络(CNN)一词一定不陌生，那么卷积神经网络的发展史、网络结构中的输入层、卷积层、池化层、全链接层、输出层究竟是什么呢。从这里开始，笔者将带你一步步走进CNN(以理论为主，应用目前可以参考用TensorFlow教你做手写字识别和OpenCV+TensorFlow实现自定义手写图像识别 2篇文章，也可以后台留言交流)。发展史卷积神经网络...
数据结构—快速排序 C语言代码实现
qq_43128902的博客
09-19 2920
快速排序是20世纪的十大算法之一，在常见的o（nlogn）的时间复杂度的算法（快速排序，堆排序，2路归并排序）中，快速排序的平均性能也是最优的，下面是快排的c语言实现代码 // 基本思想是分治法，故一般用到递归 void QuickSort(int L[],int low, int high) //low和high指示排序的范围 { int temp=0; //用于存储待交换的元素的值 int i=low,j=high; if(low<high) {
Deeplearning深度学习笔记v5.52
08-10
本文档是针对吴恩达老师深度学习课程的学习笔记，这些课程专为已有一定基础（基本的编程知识，熟悉 Python、对机器学习有基本了解）， 想要尝试进入人工智能领域的计算机专业人士准备。介绍显示：“深度学习是科技业最热门 的技能之一，本课程将帮你掌握深度学习，学生将可以学习到深度学习的基础，学会构建神经网络，并用在包括吴恩达本人在内的多位业界顶尖专家指导下创建自己的机器学习项目。Deep Learning Specialization 对卷积神经网络 (CNN)、递归神经网络 (RNN)、长短期记忆 (LSTM) 等深度学 习常用的网络结构、工具和知识都有涉及
Deeplearning深度学习笔记v5.6.zip
12-26
吴恩达的深度学习笔记翻译，里面的目录已经做好，可以直接作为书去打印，欢迎大家下载。课程概述 这些课程专为已有一定基础（基本的编程知识，熟悉Python、对机器学习有基本了解），想要尝试进入人工智能领域的计算机专业人士准备。介绍显示：“深度学习是科技业最热门的技能之一，本课程将帮你掌握深度学习。” 在这5堂课中，学生将可以学习到深度学习的基础，学会构建神经网络，并用在包括吴恩达本人在内的多位业界顶尖专家指导下创建自己的机器学习项目。Deep Learning Specialization对卷积神经网络 (CNN)、递归神经网络 (RNN)、长短期记忆 (LSTM) 等深度学习常用的网络结构、工具和知识都有涉及。 课程中也会有很多实操项目，帮助学生更好地应用自己学到的深度学习技术，解决真实世界问题。这些项目将涵盖医疗、自动驾驶、和自然语言处理等时髦领域，以及音乐生成等等。Coursera上有一些特定方向和知识的资料，但一直没有比较全面、深入浅出的深度学习课程——《深度学习专业》的推出补上了这一空缺。 课程的语言是Python，使用的框架是Google开源的TensorFlow。最吸引人之处在于，课程导师就是吴恩达本人，两名助教均来自斯坦福计算机系。完成课程所需时间根据不同的学习进度，大约需要3-4个月左右。学生结课后，Coursera将授予他们Deep Learning Specialization结业证书。 “我们将帮助你掌握深度学习，理解如何应用深度学习，在人工智能业界开启你的职业生涯。”吴恩达在课程页面中提到。 本人黄海广博士，以前写过吴恩达老师的机器学习个人笔记。有朋友报名了课程，下载了这次课程的视频给大家分享。Coursera的字幕不全，同学们在学习上感觉非常不方便，因此我找志同道合的朋友翻译和整理字幕，中英文字幕来自于由我和曹骁威同学组织爱好者翻译，希望对大家有所帮助。（备注：自网易公开课翻译深度学习课程后，我们不再翻译）
AndrewNG深度学习笔记V5.61—黄海广.pdf
01-26
本文档是针对吴恩达老师深度学习课程视频做的笔记。在这5堂课中，学生将可以学习到深度学习的基础，学会构建神经网络，并用在包括吴恩达本人在内的多位业界顶尖专家指导下创建自己的机器学习项目。本课程对卷积神经网络 (CNN)、递归神经网络 (RNN)、长短期记忆 (LSTM) 等深度学习常用的网络结构、工具和知识都有涉及。
吴恩达深度学习笔记v5.5
08-30
这些课程专为已有一定基础（本的编知识，熟悉 Python、对机器学习有基本了解）想要尝试进入人工智能领域的计算机专业士准备。 想要尝试进入人工智能领域的计算机专业士准备。介绍显示：“深度学习是科技最热门 的技能之一，本课程将帮你掌握深度学习。” 在这5堂课中，学生将可以习到深度的基础会构建神经网络并用在包括吴恩达本人在内的多位业界顶尖专家指导下创建自己机器学习项目。Deep Learning Specialization对卷积神经网络 (CNN)、递归神经网络 、递归神经网络 (RNN)、长短期记忆 (LSTM) 等深度学习常用的网络结构、工具和知识都有涉及。
《机器学习》教学大纲和斯坦福《机器学习》公开课笔记
最新发布
03-08
《机器学习》教学大纲通常包括以下核心内容： 一、引言 机器学习的定义与重要性 机器学习的历史与发展 机器学习的应用领域 二、基础知识 数据预处理：包括数据清洗、数据转换、特征选择等 数学基础：线性代数、概率论与数理统计、优化算法等 编程基础：Python编程语言及其常用库（如NumPy、Pandas、Matplotlib等） 三、监督学习 回归问题：线性回归、多项式回归、岭回归等 分类问题：逻辑回归、决策树、支持向量机（SVM）、朴素贝叶斯等 模型评估与优化：交叉验证、过拟合与欠拟合、正则化等 四、无监督学习 聚类分析：K-means、层次聚类等 降维与可视化：主成分分析（PCA）、t-SNE等 关联规则学习：Apriori算法等 五、强化学习 强化学习基本原理 马尔可夫决策过程 值迭代与策略迭代 深度强化学习 六、深度学习 神经网络基础知识 前馈神经网络与反向传播算法 卷积神经网络（CNN） 循环神经网络（RNN）与长短期记忆网络（LSTM） 深度学习在图像识别、自然语言处理等领域的应用 七、实践项目 基于实际数据集的机器学习项目实践 机器学习竞赛案例分析 八、总结与
胶囊网络（CapsulesNet）理解
luoxuexiong的博客
03-16 1万+
胶囊网络（CapsulesNet）理解: 一.回顾CNN: CNN网络层级结构 CNN网络一共有5个层级结构： 输入层 卷积层 激活层 池化层 全连接FC层 1.输入层 与传统神经网络/机器学习一样，模型需要输入的进行预处理操作，常见的3中预处理方式有： 去均值 归一化 PCA/SVD降维等 2.卷积层 局部感知：人的大...
从入门到精通：卷积神经网络初学者指南
maweifei的博客
09-05 1万+
转载自:http://www.jiqizhixin.com/article/1363?utm_source=tuicool&utm_medium=referral 这是一篇向初学者讲解卷积神经网络的系列文章，机器之心编译了已经发表了的 Part 1 和 Part 2。此系列文章若有更新，机器之心依然会分享给大家。    Part 1：图像识别任务 介绍 卷积
从“弃儿”到大神，神经网络之父Hiton说人类就是非常精美的机器 | AI英雄
网易智能
02-08 2296
▼点击上方蓝字 关注网易智能聚焦AI，读懂下一个大时代！30多年来，Geoffrey Hinton一直徘徊在人工智能研究的边缘地带。他就像一个局外人一样坚持着一个简单的观点：计算机可以像人类一样思考——用直觉而不是规则。Hinton在青少年时期就萌生了这个想法，当时一个朋友向他描述了全息图的工作原理：入射光线被物体多次反射，然后这些信息被存储进一个庞大的数据库中。Hinton来自于一个科学家世家，
机器学习----matlab中的CNN
热门推荐
小崔童鞋的博客
06-03 4万+
1.前言最近需要用到卷积神经网络(CNN)，在还没完全掌握cuda+caffe+TensorFlow+python这一套传统的深度学习的流程的时候，想到了matlab，自己查了一下documentation,还真的有深度学习的相关函数。所以给自己提个醒，在需要用到某个成熟的技术时先查一下matlab的帮助文档，这样会减少很多时间成本。记得机器学习的大牛Andrew NG.说过在硅谷好多人都是先用ma
吴恩达DL深度学习笔记v3.03.pdf
08-19
Coursera深度学习教程中文笔记 课程概述 这些课程专为已有一定基础（基本的编程知识，熟悉Python、对机器学习有基本了解）， 想要尝试进入人工智能领域的计算机专业人士准备。介绍显示：“深度学习是科技业最热门 的技能之一，本课程将帮你掌握深度学习。” 在这5堂课中，学生将可以学习到深度学习的基础，学会构建神经网络，并用在包括吴 恩达本人在内的多位业界顶尖专家指导下创建自己的机器学习项目。Deep Learning Specialization对卷积神经网络 (CNN)、递归神经网络 (RNN)、长短期记忆 (LSTM) 等深度学 习常用的网络结构、工具和知识都有涉及。 课程中也会有很多实操项目，帮助学生更好地应用自己学到的深度学习技术，解决真实 世界问题。这些项目将涵盖医疗、自动驾驶、和自然语言处理等时髦领域，以及音乐生成等 等。Coursera上有一些特定方向和知识的资料，但一直没有比较全面、深入浅出的深度学习 课程——《深度学习专业》的推出补上了这一空缺。 课程的语言是Python，使用的框架是Google开源的TensorFlow。最吸引人之处在于， 课程导师就是吴恩达本人，两名助教均来自斯坦福计算机系。完成课程所需时间根据不同的 学习进度，大约需要3-4个月左右。学生结课后，Coursera将授予他们Deep Learning Specialization结业证书。 “我们将帮助你掌握深度学习，理解如何应用深度学习，在人工智能业界开启你的职业 生涯。”吴恩达在课程页面中提到。 本人黄海广博士，以前写过吴恩达老师的机器学习个人笔记。有朋友报名了课程，下载 了这次课程的视频给大家分享。Coursera的字幕不全，同学们在学习上感觉非常不方便，因 此我找志同道合的朋友翻译和整理字幕，中英文字幕来自于由我和曹骁威同学组织爱好者翻 译，希望对大家有所帮助。（备注：自网易公开课翻译深度学习课程后，我们不再翻译） 目前我正在组织团队整理中文笔记，由热心的朋友无偿帮忙制作整理，并持续更新。我 们的团队的劳动致力于AI在国内的推广，不会损害Coursera以及吴恩达老师的商业利益。 本人水平有限，如有公式、算法错误，请及时指出，发邮件给我，也可以加我qq。 黄海广
Deeplearning 深度学习笔记
05-08
吴恩达Coursera深度学习教程中文笔记，这些课程专为已有一定基础（基本的编程知识，熟悉Python、对机器学习有基本了解），想要尝试进入人工智能领域的计算机专业人士准备。在这5堂课中，学生将可以学习到深度学习的基础，学会构建神经网络，并用在包括吴恩达本人在内的多位业界顶尖专家指导下创建自己的机器学习项目。Deep Learning Specialization对卷积神经网络 (CNN)、递归神经网络 (RNN)、长短期记忆 (LSTM) 等深度学习常用的网络结构、工具和知识都有涉及。
吴恩达视频文档-DeepLearning.ai深度学习课程笔记（V5.71） Coursera 深度学习教程中文笔记
05-13
这些课程专为已有一定基础（基本的编程知识，熟悉 Python、对机器学习有基本了解），想要尝试进入人工智能领域的计算机专业人士准备。介绍显示：“深度学习是科技业最热门的技能之一，本课程将帮你掌握深度学习。”在这 5 堂课中，学生将可以学习到深度学习的基础，学会构建神经网络，并用在包括吴恩达本人在内的多位业界顶尖专家指导下创建自己的机器学习项目。Deep Learning Specialization 对卷积神经网络 (CNN)、递归神经网络 (RNN)、长短期记忆 (LSTM) 等深度学习常用的网络结构、工具和知识都有涉及。课程中也会有很多实操项目，帮助学生更好地应用自己学到的深度学习技术，解决真实世界问题。这些项目将涵盖医疗、自动驾驶、和自然语言处理等时髦领域，以及音乐生成等等。 课程的语言是 Python，使用的框架是 Google 开源的 TensorFlow。 第一门课 神经网络和深度学习 第二门课 改善深层神经网络：超参数调试、正 则 化 以 及 优 化 第三门课 结构化机器学习项目 第四门课 卷积神经网络 第五门课 序列模型 等等
Coursera深度学习笔记v3.1
08-24
吴恩达倾力奉献，创建的Coursera的deeplearning.ia。里面囊括了所有的上课笔记！ 吴恩达Coursera深度学习教程中文笔记，这些课程专为已有一定基础（基本的编程知识，熟悉Python、对机器学习有基本了解），想要尝试进入人工智能领域的计算机专业人士准备。在这5堂课中，学生将可以学习到深度学习的基础，学会构建神经网络，并用在包括吴恩达本人在内的多位业界顶尖专家指导下创建自己的机器学习项目。Deep Learning Specialization对卷积神经网络 (CNN)、递归神经网络 (RNN)、长短期记忆 (LSTM) 等深度学习常用的网络结构、工具和知识都有涉及。
Deeplearning深度学习笔记v5.53
08-31
Deeplearning深度学习笔记v5.53 吴恩达机器学习笔记更新--在这 5 堂...Deep Learning Specialization 对卷积神经网络 (CNN)、递归神经网络 (RNN)、长短期记忆 (LSTM) 等深度学 习常用的网络结构、工具和知识都有涉及。
数据结构 顺序表常见算法问题
qq_43128902的博客
10-04 2660
//数据结构 typedef struct{ int data[Maxsize]; int length; }SqList; 算法2.1.1 从顺序表中删除具有最小值的元素，并由函数返回被删元素值。空出位置由最后一个补齐 算法很简单，基本思想可参照简单选择排序思想 int deleteMin(Sqlist &L, int &e) { int i,j; if(L.length==0) return 0; min=L.data[0]; for(i=1;i<L
数据结构算法2.2 求两个顺序表A.B的元素并集
qq_43128902的博客
10-01 2487
基本思想，遍历B中线性表，并逐个与A中元素比较，如果A中没有此元素则插入。时间复杂度O（A.length*B.length） void union(Sqlist &A,Sqlist B) { int i=0,j=0; for(i=0;i<B.length;i++) //循环遍历B，找其中A中没有的元素 for(j=0;j<A.length&&A.data[j]!=B.data[i];j++) //逐个与A中元素比较
数据结构算法2.1 两个有序顺序表的合并
qq_43128902的博客
10-01 1497
若A,B顺序表升序排列，现在将其合成一个新的顺序表，新表仍然有序 数据结构 typedef struct{ int data[MaxSize]; int length; } SqList; bool merge(SqList A,SqList B,SqList &C) { int i=0,j=0,k=0; if(A.length+B.length>C.length) return 0; //表长溢出 while(i<A.length&&j<B.l
传统机器学习算法与卷积神经网络
07-11
传统机器学习算法和卷积神经网络（CNN）是两种不同的方法和技术。 传统机器学习算法是基于特征工程的方法，它通常包括从原始中提取特征，并使用这些特征来训练机器学习模型。这些算法包括支持向量机（SVM）、决策树、随机森林和逻辑回归等。传统机器学习算法的优势在于对于小型数据集和特征工程较好的情况下表现良好，但在处理大规模数据和高维图像数据等方面存在一定的局限性。 卷积神经网络是一种特殊的神经网络结构，它使用了卷积层、池化层和全连接层等组件来处理图像和其他类型的数据。CNN可以自动从原始数据中学习特征，并且在训练过程中进行端到端的优化。CNN在图像识别、目标检测和语音识别等领域取得了很大的成功。相较于传统机器学习算法，CNN能够更好地处理图像等大规模数据集，并且具有更好的特征学习和表示能力。 总的来说，传统机器学习算法更适合于小规模数据和特征工程较好的情况，而卷积神经网络则更适合于大规模数据和图像等复杂数据的处理。在实际应用中，根据具体的问题和数据集特点选择合适的方法和技术是很重要的。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值