【CNN】|How much position information do convolutional neural networks encode?

最新推荐文章于 2024-11-12 11:12:28 发布
最新推荐文章于 2024-11-12 11:12:28 发布
阅读量410 收藏
点赞数 1
分类专栏： 特征提取网络 文章标签： cnn 深度学习 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_35608277/article/details/125181588
版权

ICLR2020

CNN提取的特征中是否含有位置信息

CNN隐性的编码了位置信息，并且随着网络层数的增加和卷积核的增加，即感受野的增加，能够更好的编码位置信息。其中，这个位置信息是由zero-padding造成的，图像边缘的zero-padding提供了图像的边界信息。本来，网络是不知道每个像素点或者特征点的位置。但是，通过padding的zero，提供给模型一个相对位置信息，知道每个特征点距离zero边界的距离信息。

在有zero-padding的情况下，基于VGG和ResNet的模型都可以预测比较合理的位置相关的输出，比如横坐标或者纵坐标。

在没有padding的情况下，输出只会直接响应在输入的内容上，不能预测和内容无关的位置信息.

最直接的做法当然就是把每个像素的坐标concat到输入或者中间特征上，这种简单直接做法可以在SOLO[3]的实例分割结果上带来3.6 AP的提升。

rrr2
关注
专栏目录
Graph Neural Networks: A Review of Methods and Applications（图神经网络：方法与应用综述）
weixin_41697507的博客
07-06 5482
Graph Neural Networks: A Review of Methods and Applications Jie Zhou , Ganqu Cui , Zhengyan Zhang , Cheng Yang, Zhiyuan Liu, Lifeng Wang, Changcheng Li, Maosong Sun Abstract—Lots of learning tasks req...
A Survey on Deep Learning Techniques Applied to medical image analysis
AI天才研究院
08-13 304
作者：禅与计算机程序设计艺术 Introduction:Deep learning techniques have recently gained popularity in medical image analysis because they are capable of accurately identifying disease markers without relying on human intervention, enabling better decision-making and tre
NBJL 2020论文导读14：How Much Position Information Do Convolutional Neural Networks Encode ?
05-27 1041
论文下载地址：https://openreview.net/pdf?id=rJeB36NKvB 发表时间：2020 会议名称：ICLR 作者：Md Amirul Islam、Sen Jia、Neil D. B. Bruce 论文摘要 相对于全连接网络，卷积网络依靠有限空间内的局部连接，大幅度提高了图像处理的效率。局部连接似乎暗示了卷积过滤器虽然感知当前的内容，却不知道当前所处的位置。 绝对位置信息毫无疑问是有用的，有理由认为如果可以做到，卷积网络必然隐式地学习到了编码位置信息。在这篇.
图像中目标的绝对位置信息(1)--How much Position Information Do Convolutional Neural Networks Encode
qq_33328642的博客
10-22 3528
一般来讲，我们的常规认识是：随着卷积层的增多，尤其是使用pooling层，导致图像中目标的位置信息都被丢弃了。 然而，事实上并不是会这样。这篇论文的研究成果告诉我们。位置信息没有丢失，只是跟语义信息共享特征了。我们之所以没有过多的去研究位置信息，只是因为目前的针对CNN的使用并没有迫切的需要使用位置信息。 这篇文章只回答了CNN存储了位置信息，但是并没有给出如何有效提取位置信息，只是告诉我们在图像中为增加zero-padding可以帮助CNN提取位置信息，或者说更关注位置信息。 灌入如何提取位置信息，在这一
【论文阅读】How Much Position Information Do Convolutional Neural Networks Encode
kanon的博客
02-28 894
经典的 CNN 模型被认为是空间不可知的，因此胶囊网络[1]或循环网络[2]已被用于对学习到的特征层内的相对空间关系进行建模。CNN更多地依赖于纹理和颜色等信息而不是形状[3]。然而，位置信息为对象可能出现在图像中的位置提供了强有力的线索（例如天空中的鸟类）。因此，论文提出了一个新的假设，即CNN可以潜在的学到位置信息，并提出了PosENet用于验证猜想。实验表明，更大的感受野或位置信息的非线性提取进一步增加了绝对位置的提取。
Convolutional Neural Networks
坤健的博客
04-24 719
卷积神经网络是人工神经网络的一种，已成为当前语音分析和图像识别领域的研究热点。它的权值共享网络结构使之更类似于生物神经网络，降低了网络模型的复杂度，减少了权值的数量。该优点在网络的输入是多维图像时表现的更为明显，使图像可以直接作为网络的输入，避免了传统识别算法中复杂的特征提取和数据重建过程。卷积网络是为识别二维形状而特殊设计的一个多层感知器，这种网络结构对平移、比例缩放、倾斜或者共他形式的变形具有
一步一步分析讲解深度神经网络基础-Convolutional Neural Network
热门推荐
凡难事必作于细的博客
12-25 2万+
Convolutional Neural Network 参考http://cs231n.github.io/convolutional-networks/history Convolutional Neural Networks (CNNs / ConvNets)Convolutional Neural Networks are very similar to ordinary Neural
Using Transfer Learning to Improve Deep Learning Models
AI天才研究院
08-02 853
作者：禅与计算机程序设计艺术Image classification and segmentation are the two most common applications of deep learning in medical imaging. However, it is not straightforward to use transfer learning methods for these tasks due to different dataset distributions, input
Accurate Semantic Image Segmentation Using Attention Mechanism
AI天才研究院
10-09 671
作者：禅与计算机程序设计艺术Semantic image segmentation (SIs) is one of the most challenging tasks in computer vision and medical imaging fields due to its high variability and complexity of realistic scenes with complex structures and textures. In this paper, we presen
CNN是怎么学到图片内的绝对位置信息的
weixin_43660915的博客
01-02 1205
看到一个很不错的idea，讨论CNN与绝对位置，于是找到了一篇ICLR2020Spotlight的文章,它解释了CNN是怎么学到图片内的绝对位置信息的。 How much Position Information Do Convolutional Neural Networks Encode? ​link CNN和绝对位置，这两个概念很少被一起讨论。 有学者提出两个原因：一是，大家有一个默认的共识...
Linux二进制exploit入门
kynehc
09-21 1067
二进制—linux篇 介绍 逆向 二进制正常情况下,我们不容易获得执行文件的源码, 因此需要用到“逆向”来分析执行程序来寻找漏洞, 所以“逆向”的作用是尽可能把binary->source code. 那逆向分析技术主要分成static和dynamic, (Linux底下) static analysis: 分析静态程序,程序不需要运行, 如: objdump 把machine code转成asm汇编代码 dynamic analysis: 运行程序来动态分析, 如strace: trace all
深度学习——卷积神经网络是否能编码位置信息？
菜到怀疑人生的博客
04-02 5448
文章目录前言猜想实验实验思路网络结构——position encoding network评价指标实验结果 前言 卷积神经网络在图像领域性能十分卓越，不仅可应用于图像识别，也可应用于目标检测与语义分割。目标检测与语义分割都需要定位目标在图像中的位置，而卷积神经网络在这两类任务中表现优异，是否意味着卷积神经网络可以编码目标的绝对位置（目标在图像中的位置，而不是目标相对于图像中的其他事物的位置）信息呢...
CNN 平移不变性尺度不变性 绝对位置
qq_35608277的博客
04-01 2899
CNN是否存在平移和尺度的不变性和相等性 ref https://zhuanlan.zhihu.com/p/113443895 论文：How much position information do convolutional neural networks encode? 图中一共有三组图片，每组由原图和剪切图构成。可以发现，显著区域将会因为图片中心位置的改变而改变。对中心激活强 这是一篇IC...
ICLR2020放榜 34篇满分论文！ 48篇orals，108篇spotlights，531篇poster
Tiger数学之家的博客
12-21 2519
ICLR，全称为International Conference on Learning Representations（国际学习表征会议），2013年由深度学习三座大山中的 Yoshua Bengio 和 Yann LeCun牵头创办。众所周知，Yoshua Bengio主管着蒙特利尔大学人工智能实验室，也就是 MILA，它是世界上最大的人工智能研究中心之一。Yann LeCun是 Faceb...
CNN提取的特征中是否含有物体的位置信息
lucky_kai的博客
03-20 2550
前言 这篇文章解释了CNN是怎么学到图片内的绝对位置信息。探究了CNN到底有没有编码位置信息，这些位置信息在哪些神经元中被编码、这些位置信息又是如何被暴露给神经网络学习的。 这是一篇ICLR2020接收的文章。此前，关注位置信息只在NLP的任务中，因为字符位置不同，文本表达的语义不同。但是，CV一直没有这个需求，大家一致认为CNN具有平移不变性。在CV的三大物体感知任务中，分类不需要位置信息，语义...
CNNs Transformer的position位置编码、位置嵌入
MengYa_Dream的博客
03-03 4066
CNNs Transformer多种position分析比较
注意力机制 -自注意力和位置编码
yingzi的技术博客
09-13 785
让我们⽐较下⾯⼏个架构，⽬标都是将由n个词元组成的序列映射到另⼀个⻓度相等的序列，其中的每个输⼊词元或输出词元都由d维向量表⽰。请注意，顺序操作会妨碍并⾏计算，⽽任意的序列位置组合之间的路径越短，则能更轻松地学习序列中的远距离依赖关系。在位置嵌入矩阵P中，行代表词元在序列中的位置，列代表位置编码的不同维度。在下面的例子中，我们可以看到位置嵌入矩阵的第6列和第7列的频率高于第8列和第9列。在二进制表示中，较高比特位的交替频率低于较低比特位，与下面的热图相似，只是位置编码通过使用三角函数在编码维度上降低频率。
深度学习之循环神经网络(RNN)
最新发布
weixin_43775295的博客
11-12 363
其一般处理单个的输入，前一个输入和后一个输入完全无关，但实际应用中，某些任务需要能够更好的处理序列的信息，即前面的输入和后面的输入是有关系的。​ 由于RNN特有的memory会影响后期其他的RNN的特点，梯度时大时小，learning rate没法个性化的调整，导致RNN在train的过程中，Loss会震荡起伏，为了解决RNN的这个问题，在训练的时候，可以设置临界值，当梯度大于某个临界值，直接截断，用这个临界值作为梯度的大小，防止大幅震荡。中必须包含原始序列中的所有信息，它的长度就成了限制模型性能的瓶颈。
Convolutional Neural Networks, CNN的代码
10-15
卷积神经网络（Convolutional Neural Networks, CNN）是一种专门用于处理网格状数据（例如图像）的深层学习架构。它们由卷积层、池化层、激活函数和全连接层组成。由于篇幅限制，这里我会提供一个简化版的Python示例，使用Keras库构建基本的CNN。假设我们想在一个MNIST手写数字数据集上训练一个简单的CNN。 ```python # 导入必要的库 from tensorflow.keras import layers, models import tensorflow as tf # 创建一个Sequential模型 model = models.Sequential() # 添加卷积层 model.add(layers.Conv2D(32, (3, 3), activation='relu', input_shape=(28, 28, 1))) # 输入图像大小为28x28，单通道灰度图 model.add(layers.MaxPooling2D((2, 2))) # 下采样操作 # 可能添加更多的卷积层和池化层... model.add(layers.Flatten()) # 展平卷积层的输出以便于全连接层处理 model.add(layers.Dense(64, activation='relu')) # 全连接层 model.add(layers.Dropout(0.5)) # 防止过拟合 model.add(layers.Dense(10, activation='softmax')) # 输出层，10个类别对应0到9的手写数字 # 编译模型 model.compile(optimizer='adam', loss=tf.keras.losses.SparseCategoricalCrossentropy(from_logits=True), metrics=['accuracy']) # 加载MNIST数据并训练模型 (train_images, train_labels), (test_images, test_labels) = tf.keras.datasets.mnist.load_data() train_images = train_images.reshape((60000, 28, 28, 1)) test_images = test_images.reshape((10000, 28, 28, 1)) model.fit(train_images, train_labels, epochs=5, validation_data=(test_images, test_labels)) ``` 这只是一个基础示例，实际使用时还需要预处理数据、调整超参数和进行更复杂的架构设计。如果你想查看完整的代码实现，可以参考Keras官方文档或GitHub上的开源项目。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值