Zero-shot Learning零样本学习 论文阅读（五）——DeViSE:A Deep Visual-Semantic Embedding Model

这篇2013年的文章提出了DeViSE这种方法，主要是综合了传统视觉识别的神经网络和词向量处理(word2vec)中的skip-gram模型，实现了一个视觉和语义兼顾的ZSL模型，取得了较好的效果，时至今日准确率仍然可以排在前面。

背景

Skip-gram

Skip-gram是Word2Vec模型中的一种，给定一个input word来预测上下文，训练之后的模型的目的并不是用这个模型来预测，而是为了得到这模型隐层中学得的权重参数。
首先，我们构建一个完整的神经网络，包含输入层、隐层、输出层。
例如，对于一个句子“I want to eat an apple.” 选取一个词作为输入，这里选择"eat"，再定义一个参数skip-window,它代表着我们从当前input word的一侧（左边或右边）选取词的数量。如果我们设置$skip\_window=2$，就代表选取输入词左边2个和右边2个单词进入窗口[“want”,“to”,“an”,“apple”]；另外一个参数num-skips，代表我们从窗口中选取多少个不同的词，作为我们的output，当$skip\_window=1，skip\_num$