NLP模型笔记2022-02:关于规则与语料对语言模型的理解

自然语言处理分为理性主义和经验主义学派。理性主义依赖规则,直观但覆盖不足;经验主义借助语料学习,依赖大规模数据。20世纪80年代后,经验主义成为主流,深度学习推动了NLP的繁荣。
摘要由CSDN通过智能技术生成

在这里插入图片描述

自然语言处理大概可以分为两个学派:理性主义学派和经验主义学派。

理性主义学派认为语言是由一些表层或深层的规律构成的,所以试图利用规则描述语言规律;而经验主义学派认为,人们的语言能力是学习得到的,所以试图利用大量的语料对语言规律进行学习,很显然,两个学派都有其长处和短板。

利用规则描述语言规律直观、灵活,还可以表述复杂的语言知识,具有良好的描述能力和生成能力,但是这种方法对语言知识的覆盖率低,成本高,对语言冲突缺乏解决能力,而且自然语言处于不断的变化之中,而规则法对这种变化的适应能力很弱。

利用语料对语言进行学习从本质上讲是一种统计模型,这提供了语言知识的冲突解决机制,提高了语言的覆盖率,同时也可以应对自然语言的变化,但是这一切的长处都建立在拥有大规模语料的情况下,对于数据稀缺的小语种,没有较好的解决办法,而且这种学习无法表述深层次的、复杂的语言知识。

20世纪20年代到20世纪50年代,以马尔可夫、图灵、香农、韦弗、乔姆斯基为代表的科学家利用概率法进行了自然语言处理领域的研究;20世纪60年代到20世纪80年代中期,理性主义(规则法&#x

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

源代码杀手

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值