为什么神经网络不适合自然语言理解

本文来自 Ben Dickson 

在过去十年中，人工智能的一个主要趋势是通过创建更大的深度学习模型来解决问题。这种趋势在自然语言处理领域最为明显，同时自然语言处理是人工智能最具挑战性的领域之一。

近年来，研究人员发现，在神经网络中加入参数可以提高其在语言任务中的表现。然而，理解语言的根本问题——单词和句子，仍然没有解决。

Rensselaer理工学院的两位科学家所著的《人工智能时代的语言学》一书讨论了当前自然语言理解方法（NLU）的缺点，并探讨了开发智能体的未来途径，这种智能体可以与人类进行互动，而不会造成挫折或犯愚蠢的错误。

《人工智能时代语言学》的作者Marjorie McShane和Sergei Nirenburg认为人工智能系统必须超越文字的范畴。在他们的书中，他们提出了NLU系统可以了解世界，向人类解释他们的知识，并在探索世界时学习的理由。

基于知识的系统vs倚靠知识的系统

 例如，“I made her duck。”句子的主语是扔了一块石头让对方弯下腰，还是他给她煮了鸭肉?

再如:“Elaine poked the kid with the stick。”是伊莱恩用棍子戳了那个孩子，还是她用手指戳了那个碰巧拿着棍子的孩子?

这些语言充满了歧义。人类通过说话人的语气、前面的单词和句子、对话的大致场景以及对世界的基本了解来建立语境，来解决这些歧义。如果这些都不奏效，人类会提出问题。对人类来说，决定情境的过程很容易，但是用可计算的方式定义情境的过程做起来很难。

通常有两种方法来解决这个问题。

人工智能时代的语言学-Marjorie McShane and Sergei Nirenburg著

在人工智能的早期，科学家们使用基于知识的系统来定义句子中每个单词的角色，并提取上下文和含义。基于知识的系统依赖于关于语言、情境和世界的大量特征。这些信息可能来自不同的来源，必须以不同的方式计算。

基于知识的系统提供可靠和可解释的语言分析。但它们之所以失宠，是因为它们需要太多的人力来设计功能、创建词汇结构和本体，以及开发将所有这些部分整合在一起的软件系统。研究人员认为知识工程的人工智能是一个瓶颈，需要寻求其他方法来处理语言处理。