AlexNet系列I:模型参数计算

最新推荐文章于 2024-08-18 11:12:27 发布

Elffer

最新推荐文章于 2024-08-18 11:12:27 发布

阅读量3.7k

点赞数 4

分类专栏：深度学习文章标签： AlexNet 参数计算

本文链接：https://blog.csdn.net/bmwlwg/article/details/101231592

版权

本文详细介绍了AlexNet的模型参数计算，包括基本结构、超参数、各层输出图像大小以及参数数量。讨论了卷积层、池化层和全连接层的输出尺寸计算，并涉及神经网络的内存占用和计算复杂度。

摘要由CSDN通过智能技术生成

Part I: 计算结果总表

AlexNet基本结构图：

AlexNet模型参数计算总表：

Layer Name	Filter	Padding	Kernel	Stride	Img size	Tensor Size	Weights	Biases	Parameters
Input Image	-	-	-	-	-	227x227x3	0	0	0
Conv-1	96	0	11 x 11	4	(227-11+2*0)/4+1 = 55	55x55x96	3(1111)*96 = 34848

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

Elffer

关注关注

4
点赞
踩
19

收藏

觉得还不错? 一键收藏
4
评论
复制链接

分享到 QQ

分享到新浪微博

扫一扫

专栏目录

人工智能大模型技术基础系列之：分布式模型存储与加载

AI天才研究院

11-01

340

随着人工智能技术的快速发展，大规模语言模型（Large Language Models, LLMs）如GPT-3、BERT、T5等在自然语言处理领域取得了突破性进展。这些模型通常包含数十亿甚至上千亿个参数，为了有效地存储、加载和推理如此庞大的模型，分布式技术成为了不可或缺的解决方案。本文将深入探讨大模型分布式存储与加载的核心技术，包括模型并行、张量并行、流水线并行等关键概念，以及它们在实际应用中的实现方法和优化策略。

AlexNet：ImageNet竞赛的里程碑

AI天才研究院

05-05

725

ImageNet 大规模视觉识别挑战赛（ImageNet Large Scale Visual Recognition Challenge，ILSVRC）是计算机视觉领域最重要的比赛之一，旨在推动图像识别技术的发展。该比赛提供了一个包含数百万张图像的大规模数据集，涵盖了数千个类别，参赛者需要开发算法来对图像进行分类、定位和检测。在 2012 年之前，图像识别领域的进展相对缓慢，传统的机器学习方法在 ImageNet 数据集上的表现并不理想。

4 条评论您还未登录，请先登录后发表或查看评论

CNN图像的尺寸和参数计算（深度学习）

左手coding，右手cooking

05-06

5240

分享一些公式计算张量的尺寸，以及CNN中参数的计算。以Alexnet网络为例，以下是该网络的参数结构图。 AlexNet网络的层结构如下： 1.Input: 图像的尺寸是2272273. 2.Conv-1: 第1层卷积层的核大小11*11，96个核。步长(stride)为4，边缘填充（padding）为0。 3.MaxPool-1: 池化层-1对Conv-1进行池化，尺寸为3*3，步长为2. 4.Conv-2: 核尺寸：5*5，数量：256，步长：1，填充：2 5.Max

深度学习之alexNet算法参数量

my_share的专栏

06-07

6709

AlexNet中的参数数量 AlexNet的网络结构图：总的来说，AlexNet由输入层，5个卷积层，3个全连接层组成(其中最后一个全连接层也是softmax输出层）。图中详细标出了输入大小以及各层的结构参数。特别需要注意的是：网络是分布在2个GPU上的，部分层只跟同一个GPU中的上一层连接（看起来，stackoverflow那个帖子中题主没有考虑这个问题）。接下来梳理一下各层的参数情况：输入层：图片大小：宽高通道(RGB)依...

跟着问题学5——AlexNet网络详解及代码实战

最新发布

weixin_42251091的博客

08-18

3639

每一层的权重初始化为均值1标准差0.01的正态分布，在第2,4,5卷积层和全连接层中的bias初始化为常数1，其余层则为0.所有层采用了相同的初始化为0.01的学习率，不过可以手动调整。测试时使用所有的神经元，但将它们的输出乘以0.5。简单举例来说，池化核大小3 × 3，扩充边缘padding = 0，步长stride = 2，因此其FeatureMap输出大小为(13-3+0×2+2)/2=6, 即C5输出为6×6×256（此处未将输出分到两个GPU中，若按照论文将分成两组，每组为6×6×128）；

AlexNet 参数计算

superyang198608的专栏

09-28

8917

FeatureMap大小计算公式： No Padding：长=（Input长-过滤器长+1）/步长，上取整宽=（Input宽-过滤器宽+1）/步长，上取整 Padding：长=Input长/步长，上取整宽=Input宽/步长，上取整 Input：224x224x3=150528 CNN1: 96个11113的卷积核，步长为4，节点数量为：5555482=290400 参数数量：11113...

AlexNet网络结构参数计算

weixin_44180506的博客

05-01

1740

文章目录前言一、CNN网络性能参数计算方法二、简化AlexNet网络参数计算二、真实的AlexNet网络参数计算总结前言 CS231n中详细介绍了AlexNet网络结构，又参考了EECS 498-007 / 598-005，有两个问题不解： CS231n和EECS 498-007 / 598-005介绍的AlexNet网络结构为何不同？按照EECS 498-007 / 598-005介绍的网络参数计算方法，为何算出的参数量和网上的博客不同？到现在第一个问题还未解决。第二个有了我自己的理解。一

AlexNet网络的参数权值

08-04

使用ImageNet数据集训练AlexNet网络的参数权值，可以直接在tensorflow中使用

AlexNet模型结构，卷积池化参数计算以及应用

plus_left的博客

05-16

957

AlexNet模型结构，卷积池化参数计算以及应用AlexNet显示模型参数pytorch版本keras版本应用到cifar10数据集上进行分类模型训练应用分类 AlexNet显示模型参数 pytorch版本 # 代码测试各网络层参数情况 import torch.nn as nn from torchsummary import summary import torch.nn.functional as F class testNet(nn.Module): def __init__(self)

模型参数与计算量

hey-yahei

06-20

1万+

模型参数与计算量原文链接：https://hey-yahei.cn/2019/01/07/MXNet-OpSummary/ 这一两个月比较忙，没什么时间空下来写写博文，加上最近处于摸索阶段，各种思路还没有理清，不敢瞎写。这两天看到Lyken17的pytorch-OpCounter，萌生了一个写一个MXNet的计数器的想法，项目已经开源到github上，并且做个pip的包，嘻嘻……第一次做包，虽...

图像分类模型AlexNet原理与实现

AI架构设计之禅

04-01

868

图像分类是计算机视觉领域的一个核心任务,其目标是将输入图像归类到预定义的类别中。随着深度学习技术的发展,基于卷积神经网络(Convolutional Neural Network, CNN)的图像分类模型取得了突破性的进展,其中AlexNet模型无疑是最具代表性的一个。

预训练AlexNet模型参数

09-13

深度学习AlexNet模型预训练参数，.npy格式，深度学习入门可尝试练习

计算模型参数量

努力奋斗

06-23

793

计算模型参数量

模型的参数及计算量

weixin_44003026的博客

06-21

1072

卷积和全连接层参数量计算公式：转载卷积层参数量=（filter size * 前一层特征图的通道数）* 当前层filter数量+当前层filter数量全连接层的计算量 = 映射的特征图大小（77512）*输出一维向量的维度（4096）假设输入神经元数为M，输出神经元数为N，则：（1）bias为True时：则参数数量为：M*N + N（bias的数量与输出神经元数的数量是一样的）（2）bias为False时：则参数数量为：M×N 卷积层的FLOPs: 乘法次数=输出特征图的大小（Hout *

AlexNet结构参数详解

fencecat的博客

04-08

1万+

2012年ImageNet 分类大赛冠军得主ALexNet结构大解析

模型大小与参数量计算

热门推荐

jacke121的专栏

05-18

2万+

1.model size 就是模型的大小，我们一般使用参数量parameter来衡量，注意，它的单位是个。但是由于很多模型参数量太大，所以一般取一个更方便的单位：兆(M)来衡量。比如ResNet-152的参数量可以达到60 million = 0.0006M。有些时候，model size在实际计算时除了包含参数量以外，还包括网络架构信息和优化器信息等。比如存储一个一般的CNN模型(ImageNet训练)需要大于300MB。 M和MB的换算关系：比如说我有一个模型参数量是1M，在一般的深度学...

计算模型FLOPs和参数量（计算工具）

Charles5101的博客

08-08

4034

在pytorch环境下，有两个计算FLOPs和参数量的包thop和ptflops，结果基本是一致的。 thop 参考https://github.com/Lyken17/pytorch-OpCounter 安装方法：pip install thop 使用方法： from torchvision.models import resnet18 from thop import profile model = resnet18() input = torch.randn(1, 3, 224, 224)

深度学习模型参数量/计算量和推理速度计算（二）

deep_love1314的博客

06-02

2965

本文学习记录卷积神经网络的复杂度分析。转载自：卷积神经网络的复杂度分析 - 知乎卷积神经网络的复杂度分析在梳理CNN经典模型的过程中，我理解到其实经典模型演进中的很多创新点都与改善模型计算复杂度紧密相关，因此今天就让我们对卷积神经网络的复杂度分析简单总结一下。本文主要关注的是针对模型本身的复杂度分析（其实并不是很复杂啦～）。如果想要进一步评估模型在计算平台上的理论计算性能，则需要了解 Roofline Model 的相关理论，欢迎阅读本文的进阶版：Roofline Model与深度学习..

深度学习模型参数量/计算量和推理速度计算

小白学视觉

08-21

1612

点击上方“小白学视觉”，选择加"星标"或“置顶” 重磅干货，第一时间送达作者丨龟壳@知乎（已授权）来源丨https://zhuanlan.zhihu.com/p/376925457编辑丨极市平台极市导读本文总结了一些关于模型参数量计算以及推理速度计算的方法，附有相关代码。1.FLOPs和Params计算1.1概念理解FLOPS：注意全大写，是floating point operation...