如何得到比AlexNet更简单但是性能更好的网络？

最新推荐文章于 2023-10-23 22:32:50 发布
最新推荐文章于 2023-10-23 22:32:50 发布
阅读量2.7k 收藏 5
点赞数
分类专栏： deep learning 文章标签： caffe
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/yiliang_/article/details/60468330
版权

可从以下几个方面思考：

1.conv1层卷积核从11×11缩小到9×9,更小的卷积核可以提取更精细的特征。conv2,conv3的输出节点数由256减少至192，pad由2减少为1。每次pooling，后面输出×2。

2.删除所有的LRN层：LRN层的参数设置需要经过交叉验证，同时实践也证明，经过恰当的参数初始化并使用类似于BatchNormalization的归一化操作之后，LRN层对提升网络的范化能力并无增益。

3.删除Group操作。AlexNet采用Group操作是为了利用两块显卡进行并行训练，而目前已经有更好的方法。

4.大小为5×5卷积核拆分为两层的3×3的卷积核，网络深度增加的同时没有增加计算量

5.第二个全连接层的节点数从4096调整为2048

6.总的来说，把网络变深变瘦，高瘦的网络性能一般优于矮胖的网络，性能不够，加层来凑

7.大网络导致的收敛困难可以通过BatchNormalization和ResidualNet来解决（1001层网络成为现实）

8.有的实际问题并不是总需要大规模的网络，甚至不一定需要dl
YiLiang_
关注
  • 0
    点赞
  • 踩
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
基于改进AlexNet的人脸表情识别
01-26
人脸表情会受到姿势、物体遮挡、光照变化以及人种性别年龄等因素的影响,需要卷积神经网络更有效准确地学习特征。AlexNet在表情识别中准确率不高,对输入图像尺寸有限制,针对这些问题,提出了改进AlexNet网络的人脸表情识别算法。在AlexNet网络中引入多尺度卷积更加适用于小尺寸的表情图像,提取出不同尺度的特征信息,并在把多个低层次特征信息在向下传递的同时与高层次特征信息进行跨连接特征融合,从而可以更加完整准确地反映图像信息,构造出更准确的分类器。跨连接会产生参数爆炸,导致网络训练困难,影响识别效果,因此利用全局平均池化对低层次特征信息进行降维,可减少跨连接产生的参数和过拟合现象。本文算法在CK+、JAFFE数据库上的准确率分别为94.25%和93.02%。
AlexNet网络及模型训练
02-22
AlexNet网络及模型训练
c++ 读写excel_每天10分钟，轻松入门python，json、csv等读写
weixin_39637256的博客
11-14 328
JSON的全称是”JavaScript Object Notation”，意思是JavaScript对象表示法，它是一种基于文本，独立于语言的轻量级数据交换格式。这种数据在弄爬虫的时候，经常会见到这类型的数据。下面展示一个简单的json数据。{ 很想python的字典格式吧？键：值的对应关系。如果要操作json的模块，那么就需要用到json模块。Python与JSON相互转换#python...
深入理解AlexNet网络
热门推荐
PiggyGaGa的博客
08-16 23万+
AlexNet 论文：《ImageNet Classification with Deep Convolutional Neural Networks》 第一个典型的CNN是LeNet5网络结构，但是第一个引起大家注意的网络却是AlexNet，也就是文章《ImageNet Classification with Deep Convolutional Neural Networks》介绍的网络结...
【深度学习网络结构】 深度学习——卷积神经网络 的经典网络（LeNet-5、AlexNet、ZFNet、VGG-16、GoogLeNet、ResNet）
小C的博客
09-09 6744
【深度学习网络结构】 深度学习——卷积神经网络 的经典网络（LeNet-5、AlexNet、ZFNet、VGG-16、GoogLeNet、ResNet） 【声明】本文的主要内容来自博客园，链接为https://www.cnblogs.com/guoyaohua/p/8534077.html，在此基础上删改与补充 【编辑时间：2018.09.07】 【完成时间：2018.09.09】   ...
Alexnet介绍
Sea__c的博客
10-23 2823
AlexNet是一种深度卷积神经网络，由Alex Krizhevsky、Ilya Sutskever和Geoffrey Hinton在2012年提出。它被广泛应用于计算机视觉领域的图像分类任务, 它是第一个在ImageNet大规模图像识别挑战赛上取得显著成功的深度学习模型。
alexnet_inference_alexnet_tensorflow_AlexNet网络_
09-29
alexnet 网络搭建 tensorflow框架
alexnet_Alex_alexnet_alex网络框架_
10-03
这是一个关于alex框架的python代码，仅供参考，绝对能运行。
matlab使用Alexnet模型方式的卷积神经网络训练并测试自己的数据集
03-19
matlab使用Alexnet方式的卷积神经网络训练并测试自己的数据集。 亲测实用有效，包验证。，包括数据集，自己的图片预处理批量化验证测试，精简版实用反馈，计算机硕士领域相关测试。
AlexNet_alexnet_Alexnet网络模型_
09-30
alexnet模型搭建，供初学者参考，本人小白，望有错指正
AlexNet(深度学习模型)详解
记录 IT 领域经验与见解的博客
05-18 8844
这样可以保证输出的特征图大小为55×55，同时减少了特征图的数量，从而避免了过拟合的风险。AlexNet的成功证明了深度学习在图像分类领域的重要性，并为计算机视觉领域的其他应用提供了新的思路和方法。该层的目的是减少特征图的大小，并增加模型的稳定性。该层的目的是减少特征图的大小，并增加模型的稳定性。AlexNet是一个用于图像分类的深度学习模型，它可以将输入的图像分为不同的类别。该技术可以对每个小批量的输入数据进行归一化处理，并对归一化后的数据进行线性变换和偏置，从而增加模型的非线性性和鲁棒性。
【CNN】深度卷积神经网络（AlexNet）是什么？如何实现AlexNet？
m0_51816252的博客
05-14 3303
本文主要是介绍卷积神经网络中的深度卷积神经网络（AlexNet），它包含对深度卷积神经网络（AlexNet）一个简单的介绍，以及如何实现LeNet？读完这篇文章，你会对卷积神经网络（LeNet）有个基本的了解。
经典卷积神经网络--AlexNet的详解
笼中鸟
04-18 3万+
一.AlexNet的概述 AlexNet由Geoffrey和他的学生Alex提出，并在2012年的ILSVRC竞赛中获得了第一名。Alexnet共有8层结构，前5层为卷积层，后三层为全连接层。 AlexNet网络结构具有如下特点： 1.AlexNet在激活函数上选取了非线性非饱和的relu函数，在训练阶段梯度衰减快慢方面，relu函数比传统神经网络所选取的非线性饱和函数（如sigmoid函数，tanh函数）要快许多。 2.AlexNet在双gpu上运行，每个gpu负责一半网络的运算 3.采用局部响
AlexNet网络结构的实现和详解
pyscl01的博客
10-27 3203
AlexNet的网络结构详解，花分类数据集的下载和划分，以及模型代码和训练代码的详解
AlexNet网络模型讲解搭建以及训练
宁静与致远的博客
03-31 1万+
一、AlexNet网络详解 AlexNet是2012年ISLVRC 2012（ImageNet Large Scale Visual Recognition Challenge）竞赛的冠军网络，分类准确率由传统的 70%+提升到 80%+。 它是由Hinton和他的学生Alex Krizhevsky设计的。也是在那年之后，深 度学习开始迅速发展。 该网络的亮点在于： （1）首次利用 GPU 进行网络加速训练。 （2）使用了 ReLU 激活函数，而不是传统的 Sigmoid 激活函数以及 Tanh 激活函数
动手学深度学习（十九）——AlexNet：CNN经典网络（二）更深+更大
Liu Feng's Blog
08-10 1985
文章目录1. 深度卷积神经网络（AlexNet）的起源1.1学习表征1.2 缺少的成分：数据1.3 缺少的成分：硬件2. AlexNet模型2.1 模型结构2.2 激活函数2.3 容量控制和预处理2.4 总结3. 基于Fashion-MNIST数据集应用AlexNet3.1 构造及验证AlexNet模型3.2 加载及构造输入数据3.3 训练AlexNet 1. 深度卷积神经网络（AlexNet）的起源   在LeNet提出后，卷积神经网络在计算机视觉和机器学习领域中很有名气。但卷积神经网络并没有主导这些领域
AlexNet网络详解
鲤鱼与驴的博客
02-01 1万+
本文介绍了AlexNet网络的详细结构，模型特点创新，最后利用Pytorch框架搭建了该模型
AlexNet详解
tt丫的博客
01-03 3176
分为上下两层，分别对应两个GPU的操作过程，除了中间某些卷积层和全连接层会有GPU间的交互外，其他层都是由两个GPU分别计算结果。除去局部响应规范化操作（LRN），AlexNet一共包含8层，前5层由卷积层（其中卷积层1、2、5后含有下采样层）组成，（中间还夹带一个平均池化），剩下的3层为全连接层。最后一层全连接层输出，得到1000个图像分类标签对应的得分值。除了GPU并行结构的设计，AlexNet网络结构和LeNet很相像。
AlexNet
frighting_ing的博客
10-15 7497
AlexNet 简介 AlexNet网络，是2012年ImageNet竞赛冠军获得者Hinton和他的学生Alex Krizhevsky设计的。在那年之后，更多的更深的神经网路被提出，比如优秀的vgg,GoogleLeNet。其官方提供的数据模型，准确率达到57.1%,top 1-5 达到80.2%. 这项对于传统的机器学习分类算法而言，已经相当的出色。 论文：《ImageNet Classification with Deep Convolutional Neural Networks》 AlexNet创
基于卷积神经网络的手写体数字识别
最新发布
04-19
基于卷积神经网络（Convolutional Neural Network，CNN）的手写体数字别是一种常见的图像分类任务。下面是一个简单的介绍： 卷积神网络是一种深度学习模型，特别适用于处理图像数据。它通过多层卷积和池化操作来提取图像的特征，并通过全连接层进行分类。 手写体数字识别的基本步骤如下： 1. 数据准备：收集手写数字的图像数据集，并将其标记为对应的数字类别。 2. 数据预处理：对图像进行预处理操作，如灰度化、归一化等，以便更好地输入到卷积神经网络中。 3. 构建卷积神经网络：设计卷积神经网络的结构，包括卷积层、池化层、全连接层等。可以使用常见的网络结构，如LeNet、AlexNet、VGG、ResNet等。 4. 模型训练：使用标记好的数据集对卷积神经网络进行训练，通过反向传播算法不断调整网络参数，使得网络能够更好地学习到手写数字的特征。 5. 模型评估：使用测试集对训练好的模型进行评估，计算准确率、精确率、召回率等指标，以评估模型的性能。 6. 预测与应用：使用训练好的模型对新的手写数字图像进行预测，得到对应的数字类别。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值