文献阅读(十四):面向深度学习的视觉问答技术的分析
- 主要内容:简单介绍了应用在VQA上的模型方法分类(联合嵌入模型、注意力机制模型、基于外部知识的模型)具体的研究进展;VQA数据集。
摘要
当输入图像和自然语言问题时,视觉问答技术能够理解图像和问题中的信息自动回答问题。文 章梳理近年来视觉问答技术的研究进展,分析了视觉问答技术的工作机制、模型的分类和公用数据集的特点,总结了目前 研究工作的不足及发展方向。
引言
人们提出在计算机视觉领域中引入交互式问答的方法对视觉对象进 行交互式内容理解,由此,视觉问答(visual ques- tion answer,VQA)应运而生。
视觉问答技术涵盖了计算机视觉和自然语言处理两个领域,它需要 建立模型去分析图像并理解问题,即在输入一张 图像及与图像相关的问题,模型能自动输出一个预测答案[1-4]。
1 视觉问答技术
VQA 技术面临着对图像分析和问题理解的挑战, 有时甚至还需要从图像中不存在的信息进行推理 回答,这些额外需要的信息可能是常识,也可能是 关于图像中特定元素的外部知识。
2 视觉问答模型分类
已经提出了许多方法来处理视觉