随着计算机视觉和自然语言处理技术的飞速发展,跨模态任务已经受到了两个领域的广泛关注,例如图像描述(Image Captioning)、图像检索(Image Retrieval)、视觉问答(Visual Question Answering)等任务。视觉问答任务是给定一张图片和一个与图片相关的问题,视觉问答模型来预测答案。视觉问答有很广泛的应用场景,例如早期教育、帮助盲人获取外部信息等。
与其他跨模态任务相比,视觉问答是一个更具挑战性的任务,因为它需要对图像信息和文本信息有更细粒度的语意理解,并且还需要视觉推理来预测出正确答案。所以视觉问答任务中最困难的部分是如何实现对多模态输入进行全面、综合的语义对齐。