java 中文分词 比较_11大Java开源中文分词器的使用方法和分词效果对比

本文详细介绍了11款Java开源中文分词器的使用方法,并进行了分词效果对比。通过统一接口实现各分词器的调用,包括word、Ansj、Stanford、FudanNLP、Jieba、Jcseg、MMSeg4j、IKAnalyzer、Paoding、smartcn和HanLP等,旨在帮助开发者根据应用场景选择合适的分词工具。
摘要由CSDN通过智能技术生成

1843983d713f52ea3a7b5d78afbc6867.png

本文的目标有两个:

1、学会使用11大Java开源中文分词器

2、对比分析11大Java开源中文分词器的分词效果

本文给出了11大Java开源中文分词的使用方法以及分词结果对比代码,至于效果哪个好,那要用的人结合自己的应用场景自己来判断。

11大Java开源中文分词器,不同的分词器有不同的用法,定义的接口也不一样,我们先定义一个统一的接口:

f87a3faa1a8390239f300501aefb9225.png

从上面的定义我们知道,在Java中,同样的方法名称和参数,但是返回值不同,这种情况不可以使用重载。

这两个方法的区别在于返回值,每一个分词器都可能有多种分词模式,每种模式的分词结果都可能不相同,***个方法忽略分词器模式,返回所有模式的所有不重复分词结果,第二个方法返回每一种分词器模式及其对应的分词结果。

在这里,需要注意的是我们使用了Java8中的新特性默认方法,并使用stream把一个map的value转换为不重复的集合。

下面我们利用这11大分词器来实现这个接口:

1、word分词器

d4cb243213a2550885123fbd61577b09.png

2、Ansj分词器

d734bdbd536a0d36f200fe9ef983a2cd.png

3、Stanford分词器

b61f1ee7897d3a5e1d02c41c9cc25913.png

4、FudanNLP分词器

50ad925a70d6b0eb9c93e17870e2725c.png

5、Jieba分词器

a039ee5591e5309cf70027d11d169592.png

6、Jcseg分词器

848e1171a0830e7cd63c530700898e15.png

7、MMSeg4j分词器

3bf79bf532f7d23c948dda843fab9a01.png

8、IKAnalyzer分词器

327156526147cf487430bfc086fb15e4.png

9、Paoding分词器

853df617eb00b2f9adef3cfcb5c0c26d.png

10、smartcn分词器

8b2fafd817a3181624e31dd9d747eec0.png

11、HanLP分词器

774346ed061cb7a99315f84fee75b02d.png

现在我们已经实现了本文的***个目的:学会使用11大Java开源中文分词器。

***我们来实现本文的第二个目的:对比分析11大Java开源中文分词器的分词效果,程序如下:

d454dc83534ac6c95d1cde944cc72324.png

运行结果如下:

27f20ba551ede20c9a5c7595e90e59c1.png

16658fe0ed460233e41260e189f472ca.png

【编辑推荐】

【责任编辑:IT疯 TEL:(010)68476606】

点赞 0

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值