论文解读:Stacked Attention Networks for Image Question Answering

这是关于VQA问题的第二篇系列文章,这篇文章在vqa领域是一篇比较有影响的文章。本篇文章将介绍论文:主要思想;模型方法;主要贡献。有兴趣可以查看原文:Stacked Attention Networks for Image Question Answering。原论文中附有作者源码。

1,论文想法

作者认为在vqa(图像问答中),带有一定的推理过程。比如:“what are sitting in the basket on a bicycl”,在这个问题中,按照人为的思路,先定位到自行车,再定位到自行车的兰州,最后看篮子上是什么。这是个推理过程

作者采用attention机制来实现这种分层关注的推理过程。在问题特征提取和图像特征提取的思路并没有很特殊,采用LSTM,CNN网络来提取特征。然后用问题特征去attention图像,用attention的结果结合问题向量再次去attention图像,最后产生预测。
(ps:论文的数学公式是LSTM,TextCNN,attention的公式,没有其他的数学公式,有疑问可以补补,这篇文章不会从数学的角度介绍)

2,模型

模型和大多数的vqa问题一样,有三部分组成,图像特征、文本特征、attention部分。
在这里插入图片描述

a.图像特征提取

利用VGGNet提取图像特征,选择的特征是最后一层池化层(last pooling layer)的特征,这层很好的保持了原始图像的空间信息。首先将图像尺寸改为448x448,经过VGGNet处理之后,提取的feature map 是512x14x14。14x14是区域的数量,512是每个区域向量的维度,每个feature map对应图像中32x32大小的区域。

b.问题特征:采用LSTM或者TextCNN

在这里插入图片描述

在这里插入图片描述

c.Stacked Attention Networks

通过多次迭代实现图像区域的Attention。第一次用文本向量去attention图像,得到一个向量;用得到的attention向量加上问题向量,再次去attention图像,得到新的attention向量。之后重复这个过程,最后用softmax预测。
在这里插入图片描述
在这里插入图片描述

3,主要贡献

  • 提出SAN模型处理VQA任务;
  • 在四个数据集上验证SAN模型的性能;
  • 详细的分析了SAN不同层的输出,证明了每次attention都是一次推理的过程。 每次attention都可以关注更细的内容
  • 1
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: 堆叠沙漏网络(Stacked Hourglass Networks)是一种用于人体姿态估计的深度学习模型。它由多个沙漏模块(Hourglass Module)堆叠而成,每个沙漏模块都包含了卷积神经网络和池化层,用于提取特征。堆叠沙漏网络的优点是可以对不同尺度的特征进行处理,从而提高了姿态估计的准确性。 ### 回答2: Stacked Hourglass Networks (SHN)是一种用于图像分割和人体姿势估计的神经网络结构,由卡内基梅隆大学和康奈尔大学的研究人员于2016年提出。SHN通过多层级的堆叠半监督网络,在对输入图像进行多尺度特征提取的同时实现了高分辨率的姿态估计。 SHN主要由两部分构成:堆叠的小型Hourglass网络和批量标准化(BN)。Hourglass网络是指由多层卷积层和上采样层、下采样层构成的一个可编程的Block,用于具体化姿态估计的操作。堆叠在一起的小型Hourglass网络在不同的分辨率和空间上进行特征提取,以共同实现最终的分割和姿态估计结果。批量标准化是一种用于规范化网络输入和加速网络收敛的技术。 SHN对于图像分割和人体姿势估计具有较高的准确率和鲁棒性。采用上述网络结构进行人体姿势估计,可优化难度较大的人体部位之间的相互作用和相互影响,使得姿态估计的精度和稳定性得到了显著提高,在肢体遮挡、图像噪声和背景复杂等困难情况下也可以取得良好的表现。 总之,作为一种多层级、半监督的神经网络结构,SHN在图像分割和人体姿势估计中发挥着越来越重要的作用,也为相关领域的研究和应用提供了一个重要的思路和工具。 ### 回答3: Stacked Hourglass Networks是一个先进的计算视觉网络,用于实现人类关键点检测和姿势估计。与其他现有的方法相比,它具有更准确,更可重复和更快速的输出。该模型通过串联8个Hourglass模块构建,Hourglass模块是特殊的卷积神经网络,可以对图像进行多次分辨率下采样和上采样以提高输出精度。这些模块也具有回归和分类头,能够同时预测关键点的位置和姿势。Stacked Hourglass Networks 模型已经在许多场景中取得成功,如动态手势识别、行人关键点检测和3D姿态估计等。 Stacked Hourglass Networks的核心思想基于卷积神经网络和图像金字塔技术。在处理人体关键点检测时,由于人的姿势会因为动态变化和视角变换而导致关键点位置的不稳定性。因此,处理这个任务的模型需要在不同的尺度下检测关键点和姿势。Stacked Hourglass Networks通过多个Hourglass模块的串联,每个模块将输入图像分别经过多次下采样和上采样,产生一系列不同尺度的特征图。这些特征图经过回归和分类头进行训练和预测,最后合成出整个图像输入的关键点和姿势输出。 Stacked Hourglass Networks模型具有许多优点,如精度高,稳健,具有可解释性等。在实际应用中已经取得了很好的效果。未来,Stacked Hourglass Networks模型仍然有很大的研究空间,可以通过各种改进和方法来提高性能,同时可以将其用于更多的视觉任务中。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值