分词工具Jieba (还有很多) 例:
前向最大匹配算法:需要定义一个参数,就是最大的单词字数(maxlen),从前扫到最后,先看前五个字组成的单词有没有在词典库出现,如果没有,就看前四个,依次类推。。。。
贪心算法,每此只会选择当前最优解,只能看到当前布局,一般不能保证全局最优。DP算法可以降低算法复杂度,能看到全局(很重要)还有BEAN SEARCH。
后向最大匹配:字面意思,和前向相反。
前向后向分出来可能不一样,这里介绍‘一篇CSDN:(22条消息) 中文分词引擎 java 实现 — 正向最大、逆向最大、双向最大匹配法_selinda001的博客-CSDN博客
分词缺点:1、不能细分 2、局部最优 3、效率低(maxlen)4、不能考虑语义