前段时间工作中需要用到中文分词的软件,于是上网找了找。
发现中科院提供的ictclas工具是比较不错的。
可惜没有官方正式的java版本,有一个网友sinbo自己改写了一个java版本。
但在使用过程中发现问题很多。其中最大的问题,就是数据结构不够合适,统统采用arraylist来存储,结果造成了可悲的内存溢出问题。
我觉得这是对原来代码的理解不够造成的。
于是自己动手,从原来的C++版本,基本上照搬了一个java版本出来。
初步测试是通过的。先放上来给大家看看,提提意见。
算法和原来的C++程序是完全一样的。
执行com.icutword.result.CResultTest这个类就可以了,传入一个gb2312格式的文本文件。
发现中科院提供的ictclas工具是比较不错的。
可惜没有官方正式的java版本,有一个网友sinbo自己改写了一个java版本。
但在使用过程中发现问题很多。其中最大的问题,就是数据结构不够合适,统统采用arraylist来存储,结果造成了可悲的内存溢出问题。
我觉得这是对原来代码的理解不够造成的。
于是自己动手,从原来的C++版本,基本上照搬了一个java版本出来。
初步测试是通过的。先放上来给大家看看,提提意见。
算法和原来的C++程序是完全一样的。
执行com.icutword.result.CResultTest这个类就可以了,传入一个gb2312格式的文本文件。
以后会考虑持续进行改进修改。
请访问http://liujunsong.iteye.com下载使用。