spacy基本介绍
spacy是一个用于NLP任务的模块,可以实现分词,词性标注,命名实体识别,依存关系分析等功能。
关于spacy的安装和部分的使用方法可以看我之前的博客:
spacy的安装和部分使用方法
spacy组成部分
spacy可以是由四个部分组成的,分别是token模块和三个pipelines(tagger, parser, ner),其中三个pipelines可以被移除。他们分别负责不同的任务,接下来会详细进行介绍。
token
token(分词器)模块和pipelines模块不同,不能人为地将其移除。
spacy中的分词器主要采用jieba和pkuseg两个中文分词器,其中jieba分词器我在之前的博客中就进行了简单的介绍spacy分词器介绍,pkuseg分词器后面的博客会进行简单的介绍,这边就不进行描述了。
pipelines
pipelines是由三个pipeline组成,分别是tagger,parser和ner,他们分别负责不同的任务,接下来会详细介绍。他们均是由多任务神经网络组成的,训练数据集分别是OneNotes,OSCAR和Wikipedia。
PS: