2018年nlp重大进展：关系推理，从图结构入手

神经网络与关系推理

author:佟学强

abstract

让机器实现逻辑推理还差得远。在Ai领域里，目前统计学派和联结主义学派比较盛行，但是类脑学科还没突破，所以当下的Ai都是弱Ai。目前取得突破的基本都是在视觉和语音领域，nlp的进展非常缓慢。众所周知的人类两种智能归纳总结和演绎推理，联结主义只是解决了归纳总结问题，而在nlp中联结主义集中表现在文字高阶特征的抽取上，比如目前流行的w2v，textCNN,LSTM等等。文字的语义理解，需要更加高阶的智能，即演绎推理能力，包括语义的联想，上下文关联，因果关系推理，语义的组合泛化(以有限的知识，概念作为基，然后进行语义组合形成新的概念、知识，机器能够推导出新的关系，逻辑)。所以nlp的道路，任重道远。

更进一步地讲，上帝创造这个世界的同时也创造了规则，然后上帝撒手，让万事万物按照规则进化，运转。牛顿晚年研究神学得到启示：他所发现的规则是上帝制定的。人可以发现规则，事物之间总是存在关联，最极端的情况是两个事物之间没有关联以及一个事物与其他所有事物都存在关联，大部分情况是介于两者之间。从特殊到一般的归纳总结能力，人类在幼儿时期就已经具备了，这种学习能力有助于我们认识大自然的规则。虽然经验主义对人类的学习起到了很大的作用，但是显然人类在婴幼儿时期的学习，并不依赖大量的先验知识，窥破这种机制对目前的AI将起到非常大的推进作用。比如对于幼儿，他不理解下跌（下落）这个词的含义，我把一个皮球拿到他眼前，然后演示皮球的自由落体运动，最后我告诉他，这个过程叫下跌。过一会儿，我写下