memory network 论文翻译

摘要

Memory Networks 通过结合长时记忆模块 和 推断模块 联合工作来进行推理。长时记忆模块可以进行读写，也为了用来预测。我们是为了问答系统来研究这个模型，长时记忆模块正作为问答系统的（类似内存的）知识库。

问题引出

现在的RNN记忆能力不行，本文解决这个问题。核心思想是弄一个读写的内存组件。

Memory Networks基本框架

一个Memory Networks包括一个内存m(也就是一个对象的数组，每个是来表示)
以及4个会被训练的组件 I G O R：
I : (输入特征映射)–把输入转变成内部的特征表示
G : (生成)–在新的输入来了的时候更新旧的内存
O : (输出特征映射) – 给定新的输入和现在的内存状态，在特征表示空间 产生新的输出
R : (回馈结果) – 把输出转化为想要的格式，比如文本或者 动作Action

给一个输入x，x可以是 字，词，句子，图像，声音。然后：
1，把x转成内部特征表示I(x)
2，更新，给定I(x)
3，计算输出特征o，给定输入和内存