NLP基础——【1】分词、命名实体识别、词性标注

【初入NLP,主要是整理可参考文章】

1、分词

       顾名思义就是将一个句子的词单位拆分开来,英文句子用空格分割,存在显性的分词方法,当然人名地名等实体名除外。相比英文,中文就要复杂得多,因为中文由单个字组合而成,字与字之间没有显性的拆分方式,这时候就需要依靠分词工具。

       五种常见的中文分词工具:

        Jieba:Python 中文分词组件,提供分词、词性标注、关键词抽取等可以用自带的词典或者自己训练词典;

        SnowNLP:国人自己写的用于中文处理的python类库,提供分词,词性标注,情感分析等(效果可能不如jieba好);

        PkuSeg:北大研发的,分词准确率高且涉及领域广,支持自训练;

        THULAC:清华研发的,标注能力强,准确率高,训练速度快;

        

  • 0
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值