为何含有全连接层的网络，需要输入图片有固定尺寸？

最新推荐文章于 2023-07-19 22:09:39 发布
最新推荐文章于 2023-07-19 22:09:39 发布
阅读量1.6k 收藏 1
点赞数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_38145317/article/details/90440157
版权
全连接层的权重矩阵形状固定，导致其需要输入特征向量的长度恒定。例如，vgg16中，512*7*7特征图会被flatten成25088维向量。若输入图像大小改变，全连接层前的特征图会变化，进而无法进行乘法运算。因此，输入图像尺寸必须固定以匹配预训练网络的全连接层计算。
摘要由CSDN通过智能技术生成

全连接层的前向传播是当前层的权重W^{l}和上一层输出a^{l-1}的乘积，再加上偏置量b^l，公式表达就是

a^l=\sigma (z^l)=\sigma (W^la^{l-1}+b^l)

对于预训练好的网络来说，权重矩阵W^{l}的形状是固定的，

以vgg16,512*7*7的特征输入为例，这个特征图进入全连接层之后就会被flatten成一个（25088，1）的向量，因此（500,25088）x（25088，1）  ===>  输出矩阵的shape:(500,1)

对于预训练好的网络来说，权重矩阵

最低0.47元/天 解锁文章
wanghua609
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
全连接层为什么要求固定大小的向量作为输入，如果不是符合特定大小的向量输入，会导致什么问题。
weixin_43501408的博客
01-07 626
全连接层（Fully Connected Layer）要求输入的向量大小是固定的，这是因为全连接层的权重矩阵的大小是由输入和输出的维度决定的。具体来说，如果输入向量的维度是 Din​，输出向量的维度是 Dout​，那么全连接层的权重矩阵的大小将是Din​×Dout​。为了解决这个问题，通常会在神经网络的前面加入一些预处理层，例如卷积层或池化层，以确保输入的数据在进入全连接层之前具有固定的大小。如果输入向量的维度与全连接层期望的输入维度不匹配，权重矩阵的大小将不兼容，无法进行矩阵相乘操作。
对于全连接层的网络输入图片尺寸固定的理解
Pichairen
03-16 2933
如果网络包含全连接层则输入网络的图像尺寸大小要固定(当然不包括SPPnet),因为神经网络一旦搭建完成,全连接层的前一层的feature map的维度要和全连接层匹配吧,那么说明该feature map的大小就是固定的维度,而该feature map的大小又直接和输入图像的尺寸相关联,所以输入要固定尺寸才能得到最后一样的feature map和全连接层匹配 ...
为什么全连接层要固定输入尺寸
weixin_49499403的博客
07-19 370
神经网络通常是按层级组织的，每一层的输出尺寸对下一层的输入尺寸有着严格的要求。因此，为了保持模型的可训练性、参数数量的一致性和网络结构的稳定性，全连接层通常需要固定输入尺寸。1. 难以处理不同大小的输入：如果输入尺寸在每次训练时都不同，那么每个训练样本都需要一个新的权重矩阵。2. 参数数量不一致：固定输入尺寸可以确保权重矩阵的大小是固定的，从而使得模型的参数数量保持一致。在全连接层中，每个神经元都连接到上一层的所有神经元，这意味着每个神经元都有一个与之对应的权重。权重矩阵的维度由输入和输出的大小决定。
为何含有全连接层的网络，需要固定输入图片大小？
Tomxiaodai的博客
08-28 1万+
前言 在图像识别，目标检测等任务中经常用到预训练的模型，比如在VGG16模型结构（除去最后一层）的基础上加上多个softmax层用来分类。在SSD中用预训练的VGG16和ResNet50作为特征提取层。   当你用到包含全连接层的预训练模型时，就需要固定固定输入图片的大小。 池化层需要经过Flatten压扁之后，才能和全连接成相连。 如上图，经过最后一个池化层和Flatten后的输出...
全连接层为什么固定输入尺寸
子小程
04-22 4312
根据前向传播： 卷积层：通过前向和后向传播修正w的值 全连接层：参数维度固定，所以输入需要固定 for example:输入500*800,全连接800*1，输出500*1，500个分类，全连接里面的800这个维度固定。vgg最后是4096*1，所以前一层输出必定是4096个参数维度，否则会出错。 如果有不同见解，欢迎指正。 ...
全连接层对于输入图像尺寸的限制问题
qq_52852138的博客
03-11 3571
前言 本文以CNNs 为例，说明含有全连接层的网络，为什么需要固定输入图像的大小 CNN 在处理图像级的分类任务时，CNNs是常用的模型。我们输入图像，网络会输出一个向量，该向量中每个位置的值，往往代表我们的输入图像属于对应的类的概率，概率最大的类就是分类的结果。 因为输出是一个向量，而我们的输入是图像，至少是二维的（因为包含位置信息）。因此，我们需要全连接层来消除位置信息，将其转换成一维向量。 我们知道CNNs网络的最后几层，往往是全连接层。我们对前面一些层的输出进行flatten操作（将矩阵展开成一维向
VGG16网络结构修改全连接层可以实现输入图像尺寸的限制
weixin_42064949的博客
04-17 1万+
A: VGG16标准模型为啥要指定现在输入图像的尺寸224*224？ Q:因为权重文件的参数数量是提前预设好了的，如果改变输入图像的尺寸，那么在最后一层卷积层的输出就不是7*7*512 ，全连接层为1*1*4096 所需参数个数为 7*7*512*4096+4096 对224x224x3的输入，最后一层卷积可得输出为7x7x512，如后层是一层含4096个神经元的FC，则可用卷积核...
解释--全连接层输入大小固定
qq_32256033的博客
03-25 671
递归神经网络.pdf
11-14
它是一层全反馈网络，使用阈值函数，网络的输出会反馈到输入端，形成动态系统。Hopfield网络在联想记忆和优化计算中有广泛应用。 **动力行为分析** Hopfield网络的动力行为由一组常微分方程描述，这种网络的稳定性...
OpenCV调用keras生成的深度学习模型，判断人脸表情，含有数据集
08-31
模型通常包含多层卷积、池化、激活函数（如ReLU）以及全连接层，最后是softmax层用于分类。在训练过程中，我们使用预处理的人脸图像数据集，通过反向传播算法优化损失函数，如交叉熵，以调整网络权重。 2. **模型...
oracle学习文档 笔记 全面 深刻 详细 通俗易懂 doc word格式 清晰 连接字符串
05-06
 删除HKDY_LOCAL_MACHINE/SOFTWARE/ODBC/ODBCINST.INI中除Microsoft ODBC for Oracle注册表键以外的所有含有Oracle的键。  删除环境变量中的PATHT CLASSPATH中包含Oracle的值。  删除“开始”/“程序”中所有...
你必须知道的495个C语言问题
05-08
这是为什么？ 1.28　文件中的第一个声明就报出奇怪的语法错误，可我看没什么问题。这是为什么？ 1.29　为什么我的编译器不允许我定义大数组，如doublearray[256][256]? 命名空间 1.30如何判断哪些标识符可以使用...
【图像处理】为什么CNN需要固定输入图像的尺寸
小苏打的学习博客
06-08 2201
全连接层的输入是固定大小的，如果输入向量的维数不固定，那么全连接的权值参数的量也是不固定的，就会造成网络的动态变化，无法实现参数训练目的。 全连接层的计算其实相当于输入的特征图数据矩阵和全连接层权值矩阵进行内积，在配置一个网络时，全连接层的参数维度是固定的，所以两个矩阵要能够进行内积，则输入的特征图的数据矩阵维数也需要定。 大家都知道， 全连接神经网络结构一旦固定，需要学习的参数w是固定的，例如 输入图像是 28*28 = 784，w 的转置= （500，784），===> 输出矩阵的shape:
SPPnet详解
qq_41496108的博客
12-11 754
RCNN系列：RCNN，SPPNet，Fast RCNN，Faster RCNN，R-FCN。 作者是何凯明 SPPNet出现的原因 之前的网络，比如LeNet，AlexNet，ZF，VGG等，它们的输入都是固定大小的，为什么要固定大小呐？原因就在最后连接的全连接层上。全连接层的输入一定是固定大小的。这一点很容易理解，因为全连接层网络就是传统的神经网络，传统的神经网络的输入层必定是固定大小的。而卷积神经网络的conv层的输入并不需要固定大小， 那么conv层不用固定大小，FC层的输入又要固定大小，那么在这两
全连接神经网络（DNN）
热门推荐
小朱小朱绝不认输的博客
01-06 3万+
最近想要学习深度学习模型，没有一上来就先学习CNN、RNN、LSTM，而是先学习全连接神经网络（Fully Connected Neural Network），原因非常简单，上述所说的各种神经网络都是基于全连接神经网络出发的，最基础的原理都是由反向传播而来，所以只要掌握了这节最基本的原理，接下来的各种网络也能学得得心应手。 一、全连接神经网络简介 全连接神经网络模型是一种多层感知机(MLP)，感知机的原理是寻找类别间最合理、最具有鲁棒性的超平面，最具代表的感知机是SVM支持向量机算法。神经网络同时借鉴了感知
利用全连接网络将图片分类
实践求真知
05-05 2500
一 实例描述构建一个简单的多层神经网络，以拟合MNIST样本特征完成分类任务。二 代码import tensorflow as tf # 导入 MINST 数据集 from tensorflow.examples.tutorials.mnist import input_data mnist = input_data.read_data_sets("/data/", one_hot=True) #...
对含有全连接层的网络输入数据大小固定问题的理解
Darlewo
05-09 1万+
含有全连接层的网络输入数据的大小应该是固定的，这是因为全连接层和前面一层的连接的参数数量需要事先确定，不像卷积核的参数个数就是卷积核大小，前层的图像大小不管怎么变化，卷积核的参数数量也不会改变，但全连接的参数是随前层大小的变化而变的，那么在初始化模型的时候就得先把网络固定死。但是，但是，但是，全连接的实现可以通过卷积的方式进行，这就可以不用固定输入数据的大小了。这里有两种情况： 前层为卷积层或...
全连接层输入大小为什么下需要固定？
逍遥云的博客
06-30 2464
在刚接触目标检测时，学习到R-CNN时，为了使全连接层的输入大小固定，作者将卷积神经网络的输出经过warp，corp操作，使得输入大小固定，那问题来了，为什么全连接网络的输入需要固定，而卷积神经网络的大小可以是任意的。 　　大家都知道， z=wx+b，全连接神经网络结构一旦固定，需要学习的参数w是固定的，例如 输入图像是 28*28 = 784，w 的转置= （500，784），===>...
Crypto_30_vHsm_Types.h
最新发布
07-09
Crypto_30_vHsm_Types
含有卷积神经网络由输入层、卷积层、激活层、池化层和全连接层组成。的文献
04-23
我可以向您推荐一些包含卷积神经网络的文献，例如《Convolutional Neural Networks for Sentence Classification》、《Deep Residual Learning for Image Recognition》、《ImageNet Classification with Deep ...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值