Alex网络

已于 2022-10-04 11:38:43 修改
阅读量292 收藏
点赞数 1
分类专栏： 经典深度学习网络 文章标签： caffe 人工智能 深度学习
于 2022-10-04 11:13:13 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weiming0/article/details/127160350
版权

参考博客：AlexNet | 简说

(4条消息) Caffe学习笔记（二）——AlexNet模型_缄默笔记的博客-CSDN博客

回顾经典: AlexNet, CaffeNet — Winner of ILSVRC 2012 - 腾讯云开发者社区-腾讯云 (tencent.com)

网络结构

Alex网络结构如下：

 共有8层，其中前5层convolutional，后边3层full-connected，最后的一个full-connected层的output是具有1000个输出的softmax。

核心思想

其最大的特点是：

  • 双核：由于内存受限，网络被分成两条路径，使用两个gpu进行卷积。内部通信只发生在一个特定的卷积层（第三层）。

  • 数据扩充：在保持数据标签不变的情况下增大数据集。

    • 图像平移和翻转

      原始图像为一个大图a，想把一短边缩小到256维得到b，然后在b的中心取256∗256的正方形图片得到c，然后在c上随机提取(256-224=32)224∗224的小图片作为训练样本，然后在结合图像水平反转(x2)来增加样本达到数据增益。

    • 调整RGB像素值--可以借鉴到光谱特征中

      整个ImageNet训练集的RGB像素值集合中执行PCA,选择前3个特征，再加上一个随机量（满足均值为0，标准差为0.1的高斯分布），即：

      I_{xy}=[I_{xy}^R,I_{xy}^G,I_{xy}^B]^T=[p_1,p_2,p_3][\alpha_1\lambda_1,\alpha_2\lambda_2,\alpha_3\lambda_3]^T

思考

caffe中的AlexNet和CaffeNet有什么区别？

Caffenet在norm1，pool1，norm2，pool2互换了顺序。

后来在腾讯一个社区里，“需要注意的是，对于CaffeNet的早期版本，池化层和归一化层的顺序是颠倒的，这是偶然的。”

其实本质就是，单核的Alexnet。

weiming0
关注
专栏目录
Alex论文笔记
weixin_49496731的博客
11-08 709
ImageNet Classification with Deep Convolutional Neural Networks-基于深度卷积神经网络的图像分类 1.论文总览 摘要 介绍背景及提出Alex模型获得ILSVRC-2012冠军； The Dataset ILSVRC数据集简介，图片预处理细节； The Architecture Alex网络结构及其内部细节Relu,GPU,LRN,Overlapping pooling Reducing Overfitting 防止过拟合技术，数据增强和Dro
Alex网络亮点
持之以恒
12-08 546
（1）首次利用 GPU 进行网络加速训练。 （2）使用了 ReLU 激活函数，而不是传统的 Sigmoid 激活函数以及 Tanh 激活函数。 （3）使用了 LRN 局部响应归一化。 （4）在全连接层的前两层中使用了 Dropout方法按一定比例随机失活神经元，以减少过拟合。 ———————————————— 版权声明：本文为CSDN博主「太阳花的小绿豆」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。 原文链接：https://blog.csdn.net/qq_37541
Alex网络结构详解
yanxiaopan的博客
09-14 2440
网络结构及算法详解： 参考： http://www.cnblogs.com/gongxijun/p/6027747.html http://blog.sina.com.cn/s/blog_eb3aea990102v5px.html http://blog.csdn.net/maweifei/article/details/53117830
AlexNet网络详解
Louie_0的博客
03-02 4425
目录 AlexNet特点 ReLu作为激活函数 数据增强 层叠池化 局部相应归一化（Local Response Normalization，LRN） Dropout Alex网络结构 AlexNet参数数量 Keras实现 由于受到计算机性能的影响，虽然LeNet在图像分类中取得了较好的成绩，但是并没有引起很多的关注。 知道2012年，Alex等人提出的AlexNet网络在ImageNet大赛上以远超第二名的成绩夺冠，卷积神经网络乃至深度学习重新引起了广泛的关注。 AlexNet特点
跟着问题学5——AlexNet网络详解及代码实战
weixin_42251091的博客
08-18 3682
每一层的权重初始化为均值1标准差0.01的正态分布，在第2,4,5卷积层和全连接层中的bias初始化为常数1，其余层则为0.所有层采用了相同的初始化为0.01的学习率，不过可以手动调整。测试时使用所有的神经元，但将它们的输出乘以0.5。简单举例来说，池化核大小3 × 3， 扩充边缘padding = 0，步长stride = 2，因此其FeatureMap输出大小为(13-3+0×2+2)/2=6, 即C5输出为6×6×256（此处未将输出分到两个GPU中，若按照论文将分成两组，每组为6×6×128）；
AlexNet 网络结构
Oops的博客
03-03 8708
AlexNet 网络 AlexNet由输入层，5个卷积层，3个全连接层组成(其中最后一个全连接层也是softmax输出层）。网络是分布在2个GPU上的，部分层只跟同一个GPU中的上一层连接。其网络结构如下： 一.卷积层1： 第一层输入数据为原始的227* 227* 3的图像（输入图像的尺寸是224* 224，在进行第一次卷积的时候会padding 3个像素变成227* 227），这个图像被11* 11* 3的卷积核进行卷积运算，卷积核对原始图像的每次卷积都生成一个新的像素。卷积核沿原始图像的x轴方向和y
AlexNet 网络结构详解
2301_78820199的博客
03-08 381
AlexNet网络结构详解！
VGG网络与Alex
ru8dgj0001的博客
10-30 1200
  VGG网络 Oxford的Visual Geometry Group的组提出了VGG网络。该网络证明了增加网络的深度能够在一定程度上影响网络最终的性能。VGG有两种结构，分别是VGG16和VGG19，没有本质上的区别，只是单纯的网络深度不一样。 VGG网络的原理 在VGG中，使用了3个3x3卷积核来代替7x7卷积核，使用了2个3x3卷积核来代替5*5卷积核，这样做的主要目的是在保证具有...
深度卷积神经网络（AlexNet）是什么？
qq_24951479的博客
04-25 2651
深度卷积神经网络（AlexNet）是由Alex Krizhevsky、Ilya Sutskever和Geoffrey Hinton于2012年提出的。它是第一个在ImageNet数据集上获得较低错误率的深度卷积神经网络。AlexNet的成功标志着深度学习的新时代的开始。AlexNet使用了一些数据增强技术，包括随机裁剪、随机水平翻转、PCA颜色增强等。
Matlab使用Alex网络分类Demo
03-20
总的来说，"Matlab使用Alex网络分类Demo"是一个完整的深度学习工作流程实例，它展示了如何在Matlab中利用AlexNet模型进行图像分类。通过理解和实践这个Demo，你可以学习到深度学习模型的加载、预处理、分类以及评估...
Test2_alexnet_Alex_alexnet_alex网络_
10-02
AlexNet是由Alex Krizhevsky、Ilya Sutskever和Geoffrey Hinton在2012年的ImageNet Large Scale Visual Recognition Challenge（ILSVRC）中提出的，它标志着深度学习在计算机视觉领域的突破性进展。这个Python实现的...
深度学习之Alex网络的简单应用
01-14
基础l神经网络alex model、train、predict代码详细介绍 私人数据集分类 适用人群：刚刚开始进行深度网络学习的小白，包括我自己，对于程序代码有详细的解释，框架解释，以及个人的一些理解，可以快速的从中找到成就...
cudnn8编译caffe过程（保姆级图文全过程，涵盖各种报错及解决办法）
shikaiaixuexi的博客
10-07 1139
这块是python接口问题，如果不需要使用python接口，对于这个错误最简单的做法是找到caffe目录下的 CMakeLists.txt 中以下语句将其中的 ON 改为 OFF，此时删掉build文件夹，重新按照上面链接中的文章一路执行下来，最后会成功的，但是这意味着我们没有编译python接口，不能在python中使用caffe最终，make all成功了完成cuda11.4+cudnn8.2.4编译caffe了，耗时一下午。
ks8 本地化部署 F5-TTS
陈锐的技术笔记
11-13 923
此外，F5-TTS 还创新性地引入了推理时的 Sway Sampling 策略，这一策略可以在推理阶段优先处理早期的流步骤，从而提高生成语音与输入文本的对齐效果。在 LibriSpeech-PC 数据集上，该模型的字错误率（WER）达到了2.42，并且在推理时的实时因子(RTF)为0.15，显著优于之前的扩散模型 E2TTS，后者在处理速度和鲁棒性上存在短板。传统的 TTS 模型往往需要进行复杂的持续时间建模、音素对齐和专门的文本编码，这些都增加了合成过程的复杂性。继续TSS的启动，进入pod 输入命令。
基于OpenFOAM和深度学习驱动的流体力学计算与应用
2301_80236428的博客
11-14 695
从物理模型融合到复杂流动模拟，从数据驱动研究到流场智能分析，深度学习正以前所未有的力量重塑流体力学领域。伴随深度学习在流体力学研究中应用的普及，相关的开源软件和工具为科研人员提供了便捷的平台，简化了深度学习模型的实现与应用过程，加速了研究成果的转化。深度学习架构能够有效从流体数据中抽取关键特征，应用于流场预测、流动优化、流场可视化等多个领域，极大地提升了流体问题的分析效率和精度。构建物理增强的深度学习模型，将流体力学的控制方程、边界条件等物理规则内嵌于模型中，以提高模型的准确性和物理一致性。
文献阅读 | Nature Communications：使用自适应图注意自动编码器从空间解析的转录组学中解读空间域
weixin_45851732的博客
11-15 1186
文献介绍 文献题目： 使用自适应图注意自动编码器从空间解析的转录组学中解读空间域 研究团队： 张世华（中国科学院数学与系统科学研究院） 发表时间： 2022-04-01 发表期刊： Nature Communications 影响因子： 17.6（2022年） DOI： 10.1038/s41467-022-29439-6 摘要 空间分辨转录组学的最新进展使得能够全面测量基因表达模式，同时保留组织微环境的空间背景。破译组织中 spots 的空间背景需要仔细使用它们的空间信息。为此，作者开发了一个图注
pytorch基础-数据集导入
gudao07的博客
11-14 1033
pytorch的数据导入，包括dataset,tensorboard,transform,dataloder等
acl论文记录2021-2022
最新发布
yyfhq的博客
11-16 191
Prefix-Tuning: Optimizing Continuous Prompts for Generation GPT-NeoX-20B: An Open-Source Autoregressive Language Model GLM: General Language Model Pretraining with Autoregressive Blank Infilling LayoutLMv2: Multi-modal Pre-training for Visually-Rich Docume
出海东南亚，3C电子如何以客户服务赢得市场
weixin_56254502的博客
11-13 436
随着全球贸易的日益活跃和东南亚地区经济的快速增长，3C电子产品出海东南亚已成为众多企业拓展国际市场的重要战略。东南亚地区人口众多，消费潜力巨大，且年轻人口占比高，对智能手机、平板电脑、耳机等3C电子产品的需求持续增长。同时，东南亚地区的电子消费者市场正逐渐成熟，消费者对产品品质、售后服务的要求也在不断提高。在此背景下，3C电子企业要想在东南亚市场立足，除了提供高品质的产品外，还需在客户服务方面下足功夫。通过优质的客户服务，企业不仅可以提升品牌形象，增强消费者信任，还可以有效促进销售增长，赢得市场份额。
Alex网络基础与私人数据集分类应用
资源摘要信息:"深度学习之Alex网络的简单应用" 在人工智能和深度学习领域，卷积神经网络（CNNs）已经成为图像和视频识别任务的核心技术。AlexNet，作为最早的深度卷积神经网络之一，开启了现代深度学习的浪潮，特别...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值