论文出处:Key-Value Memory Networks for Directly Reading Documents(2016-06)
代码(lua+torch):https://github.com/facebook/MemNN/tree/master/KVmemnn
WikiMovies数据集:https://research.fb.com/downloads/babi/
1.Introduction
传统的QA基于KB和IE,这种方法有很大局限性。现在试图直接从原始文本中给出答案。KV-MemNN是一种基于key-value的Memory Network. 它在查询相关记忆时使用key,而在回答问题时使用value. 这种方法可以灵活的增加先验信息。
KV-MemNN可以看作是MemN2N的一个拓展. 而Recurrent Entity Network也借用了key-value memory,不过EntNet中的key是可学习的参数. EntNet笔记见Recurrent Entity Network笔记
2.KV-MemNN
Key Hashing
对于question x , 在M 个memory中选择 N 个,它们的key至少与x 有一个单词相同,得到memory subset: (k1,v1),(k2,v2),(k3,v3...(kN,vN)Key Addressing<