第五讲-卷积神经网络---历史

最新推荐文章于 2022-08-28 11:32:38 发布
最新推荐文章于 2022-08-28 11:32:38 发布
阅读量100 收藏
点赞数
分类专栏： cs231n视觉识别
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_39638957/article/details/80148011
版权

感知机诞生

多层感知机诞生

反向传播方法诞生

deep NN无法实现，多年无人问津

-----------------------------------

2006年 Hinton 使用受限玻尔兹曼机预训练，打破僵局

2012年 Hinton使用卷积网络在语音和图像方面成功应用，开启热点

------------------------------------

1998年Le Cun 使用Le Net实现数字识别


-------------------------------------------------------------------------------------------------------

2012年，Alex和Hinton发明Alex Net


-------------------------------------------------------------------------------------------------------

Image Captioning     Deep Dream   Neural Transfer

i_chase
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
目标检测YOLO实战应用案例100讲-基于卷积神经网络的 车辆目标检测及跟踪方法研究
qq_36130719的博客
09-06 276
车辆目标检测及跟踪技术是智慧交通建设管控的重要技术之一，其通过在道路 上安装高清摄像头采集道路行车视频，并利用图像处理技术对采集到的视频进行行 为分析和预测，进而指导道路交通运转，具有广泛的应用场景。该技术通常可以分为 以下两类：1）基于传统图像处理技术的车辆目标检测及跟踪技术，这类技术方法通 常需要人工参与指导，鲁棒性较差，只能在某些受限的特定场景下发挥作用。
目标检测YOLO实战应用案例100讲-基于卷积神经网络的小样本机载雷达动目标检测
qq_36130719的博客
09-07 387
在多元化战争的今天，空中力量在现如今的国防中占据越来越大的比重，而飞机作为空中的主干力量，也成为众多国家研究和发展的重点对象。从1991的海湾战争之后，我国就已经意识到现代战争的变化，并且开始发展自身的国防力量，经 过几十年的发展，第五代战机已经成为我国国防的主要力量，我国的防空力量也越 来越完善。机载雷达作为飞机的眼睛，对飞机的重要性不言而喻，机载雷达的存在， 可以让飞机在远距离就能够准确的定位到目标，从而实施准确的打击和跟踪。
2012－ImageNet数据集冠军AlexNet论文英文原文及AlexNet分析
FengInYe的博客
11-24 1万+
最近几个月来一直在研究卷积神经网络，主要是应用开源框架TensorFlow对网络进行训练，训练时是根据自己对卷积神经网络的理解，自己构建的网络结构，一直没有想过应用那些在ImageNet数据竞赛中，获得冠军的网络，这几天突然想自己写下AlexNet网络的代码，在网上找到了Alex Krizhevsky的论文原文，在这里分享一下，网盘链接：http://pan.baidu.com/s/1boSo0
卷积神经网络超详细介绍
热门推荐
呆呆的猫的博客
09-19 61万+
海量的有标记的训练数据，也就是李飞飞团队提供的大规模有标记的数据集ImageNet计算机硬件的支持，尤其是GPU的出现，为复杂的计算提供了强大的支持算法的改进，包括网络结构加深、数据增强（数据扩充）、ReLU、Dropout等AlexNet之后，深度学习便一发不可收拾，分类准确率每年都被刷榜，下图展示了模型的变化情况，随着模型的变深，Top-5的错误率也越来越低，目前已经降低到了3.5%左右，同样的ImageNet数据集，人眼的辨识错误率大概为5.1%，也就是深度学习的识别能力已经超过了人类。
第五讲--卷积神经网络
LOVEYSUXIN的专栏
12-22 404
全连接NN的特点：每个神经元与前后相邻层的每一个神经元都有连接关系。 全连接网络的参数个数为： 全连接网络一般被认为是分类预测的最佳网络，但待优化的参数过多，容易导致模型过拟合。 为解决参数量过大而导致模型过拟合的问题，一般不会将原始图像直接输入，而是先对图像进行特征提取，再将提取的特征输入全连接网络。 卷积神经网络 卷积概念：卷积计算可认为是一种有效提取图像特征的方法。 一般会用一个正方形的卷积核，按指定步长，在输入特征图上滑动，遍历输入特征图中的每个像素点。每一个步长，卷积核会与输入.
chapter-5-卷积神经网络
JachinMa的博客
05-15 463
卷积神经网络的历史 1957年，Frank Rosen Blatt发明了第一代感知器，它也用f=wx+b来计算结果，并根据结果修改w的值，但它只能输出0或1。 1960年，Widrow和Hoff发明了Adaline和Madaline，这是人们第一次尝试叠加线性层来得到复杂的多层神经网络。 1986年，Rumelhart首次提出了反向传播算法。 2006年，Geoff Hinton与Ruslan ...
李永乐讲卷积神经网络,卷积神经网络最新进展
m0_54846070的博客
08-28 1035
BP算法的基本思想是：学习过程由信号正向传播与误差的反向回传两个部分组成；正向传播时，输入样本从输入层传入，经各隐层依次逐层处理，传向输出层，若输出层输出与期望不符，则将误差作为调整信号逐层反向回传，对神经元之间的连接权矩阵做出处理，使误差减小。经反复学习，最终使误差减小到可接受的范围。具体步骤如下：1、从训练集中取出某一样本，把信息输入网络中。2、通过各节点间的连接情况正向逐层处理后，得到神经网络的实际输出。3、计算网络实际输出与期望输出的误差。...
【卷积神经网络】Lesson 2--深层卷积神经网络
【人工智能】王小草的博客
06-12 3004
课程来源：吴恩达 深度学习课程 《卷积神经网络》 笔记整理：王小草 时间：2018年6月6日 outline: 本文第1节主要会讲解5个经典的神经网络： - LeNet-5(1998年） - AlexNet（2012年ILSVRC第一名） - z-net（2013年ILSVRC第一名） - VGG（2014年ILSVRC第二名,但被广泛应用于其他图像任务） - Googl...
卷积神经网络的Python实现,python卷积神经网络训练
super67269的博客
08-14 6933
对于想要自学Python的小伙伴，这里整理了一份系统全面的学习路线，按照这份大纲来安排学习可以少走弯路，事半功倍。第一阶段：专业核心基础阶段目标：1.熟练掌握Python的开发环境与编程核心知识2.熟练运用Python面向对象知识进行程序开发3.对Python的核心库和组件有深入理解4.熟练应用SQL语句进行数据库常用操作5.熟练运用Linux操作系统命令及环境配置6.熟练使用MySQL，掌握数据库高级操作7.能综合运用所学知识完成项目知识点：Python编程基础、Python面向对象、Python高级进阶
第十六讲--对抗样本和对抗训练
qq_39638957的博客
05-22 6485
对于人眼来说，图片没有发生变化，还是熊猫但是！对于训练好的模型来说，这个样本会被分类为猴子不只是神经网络，线性模型也会被攻击，下图圈出来的“9”已结不再被模型认为是“9”了这种表明看起来没有区别的对抗样本，不是由于模型的过拟合引起的。过拟合应该是随机的，而不是具有系统性。相反，是由于欠拟合（线性）导致，在离决策边界远的地方分数很高（即使从没有那样的样本）神经网络事实上就是分段线性的（指的是输入和输...
强化学习--李宏毅
qq_39638957的博客
05-24 1015
 AI =  强化学习+深度学习 Alpha go是在监督学习的基础上，让两个机器对下聊天机器人问题：训练完之后不知道聊天是否聊的好，可以考虑使用GAN，添加discriminator去判断聊天是否是人类聊天强化学习的困难：接收到positive reward的动作是需要其他没有奖励动作的基础的，游戏系统很容易学成只会开枪而不移动（因为开枪有奖励，而移动没有）系统需要探索新的行为，不能永远只是移动...
第十五讲--深度学习的方法及硬件
qq_39638957的博客
05-21 899
为了更好地准确率，模型越来越大不同硬件消耗的能量不同* 谷歌的TPU是一种ASIC，专门用于深度学习---------------------------------------------------------------------------------------------------------计算机中的数字是离散的，不可能穷尽。fixed point只有8位，谷歌TPU就是使用了这...
第三讲-损失函数和优化-课时7--损失函数
qq_39638957的博客
04-28 702
SVM有点忘记了，记不得score怎么计算的。该复习一下统计学习方法和林轩田的课了。-----------------------------------------------------------------------------------------SVM也是线性分类而已，损失函数是hinge loss，之所以那么复杂的推导来推到去，只是因为：hinge loss不是处处可导，不能用梯...
第六讲-训练神经网络上--课时15--批量归一化
qq_39638957的博客
05-07 622
batch norm“you want unit gaussian activations? Just make them so”卷积神经网络由于需要保留空间信息，对所有batch使用同样的均值和方差。普通全连接网络各个batch使用各自的mean和variancegamma和beta是为了添加噪声，具有正则化的作用，它们是学习得到的参数。gamma和bata使得更flexible，比如tanh中...
第十二讲--可视化和理解卷积神经网络--课时27
qq_39638957的博客
05-14 436
卷积网络第一层的卷积核为n_H*n_W*3,将其可视化出来，可以看到，都是些方向边缘。即这些卷积核在找边缘特征------------------中间层的权重可以通过调整为灰度图可视化，但是看不出来意义------------------网络最后得到的特征是有意义的，下图中显示，特征近邻的图片确实是一类。比在原始图像上寻找近邻的效果好。-------------------------------...
第十三讲--无监督--生成模型--课时29
qq_39638957的博客
05-17 321
生成式模型家谱：pixel CNN和pixel RNN都是Fully visible Belief Network
第十讲--循环神经网络--课时21
qq_39638957的博客
05-11 316
VGG和GoogleLeNet发明的时候，batch normalization还没有出现，因此难以使得这些网络收敛VGG预训练了11层的网络，然后才得到16/19层的GoogleLeNet添加了两个auxiliary classification part有了batch norm以后，就不再需要那样做了-----------------------------------------------...
第十二讲--可视化和理解卷积神经网络--课时28
qq_39638957的博客
05-17 311
Deep Dream
python：实现人马图像分类--卷积神经网络
最新发布
04-03
在Python中，可以使用卷积神经网络（Convolutional Neural Network，CNN）来实现人马图像分类任务。 卷积神经网络是一种深度学习模型，特别适用于处理图像和视频数据。它通过多层卷积和池化操作来提取图像的特征，...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值