Keras深度学习实战(38)——图像字幕生成
0. 前言
图像和文本是当今两种主要的信息载体,其中图像具有生动形象的特点,而文本概括性强,能够以简练的形式传递信息。图像字幕生成旨在让计算机自动地使用文本对给定的图像加以描述,在图像检索、人机对话等应用中被广泛使用。
当前,网络中包含了数以十亿计的图片,为我们提供更加丰富娱乐和信息。但是,有视觉障碍的人或互联网速度较慢而无法加载图像时,则无法访问大部分视觉信息,手动添加的图像说明提供了一种更易于访问的方式。然而,现有的人工管理的图像说明字段仅涵盖少数图像,虽然自动生成图像字幕可以帮助解决这个问题,但获取准确的图像字幕是一项具有挑战性的任务。
1. 模型与数据集分析
我们已经学习了如何结合使用卷积神经网络 (Convolutional Neural Networks
, CNN
),循环神经网络 (Recurrent Neural Network
, RNN
) 和 CTC
损失转录手写文本图片。在本节中,我们将学习如何融合 CNN
和 RNN
体系结构为给定图片生成字幕信息。
1.1 数据集分析
本节所用数据集称为 Conceptual Captions,由大约 330