动图:http://dbs.cloudcv.org/captioning
- Generate-Mode
根据语义进行输出(Seq2Seq) - Copy-Mode
根据文本位置copy,拿出encoder出现过的词(copy-model)
adv : 复制了一些输入词,解决了一些OOV的问题
bp :是偏置向量
激活函数sigmoid : 取值范围 (0,1)。转换成概率。
xt :是decoder的预测下一词的输入,比如beat
(1-Pgen)把encoder的输入词,出现的OOV词(未登录词),加入进来。
添加惩罚