中文文本需要分词获得单个的词语
分词依靠中文词库,确定汉字之间的关联概率
除了分词,用户还可以添加自定义的词组;
精确模式:把文本精确分开,不存在冗余模式
全模式:把文本中所有可能的词语都扫描出来,有冗余
搜索引擎模式:在精确模式的基础上,对长词再进行切分
cut = jieba.lcut(s): 精确模式,返回一个列表类型的分词结果
print(cut);
cut = jieba.lcut(s, cut_all = True):返回全模式,会有冗余
jieba.add_word(w): 向分词词典中增加分词