Relation Network笔记

• 论文：A simple neural network module for relational reasoning
• github代码: https://github.com/siddk/relation-network

1.Introduction

智能行为很重要的一点就是能够推理实体间的关系。这一点CNN和MLP都做的不好。这篇文章提出了Relation Networks(RNs), 并且在visual QA, test-based QA上都有很好的效果

2.Relation Networks

RN应该具有适合推理的结构，其背后的逻辑就是限制函数的结构使得它能抓住关系推理的关键，就好像CNN的结构能平移不变性, RNN能够处理序列数据一样。一个简单的RN如下所示：

$$RN(O) = f_{\phi}(\sum_{i,j} g_{\theta}(o_i, o_j))$$
其中输入是一个对象的集合