paoding 添加词库

这两天找了好多地方,终于找到了,给大家分享下:

庖丁解牛分词之自定义词库[自定义词典]
2009年11月02日 星期一 13:46

       发现很久很久没更新了,尤其是这个模块,也就好久没进步了!学习如逆水行舟,不进则退!趁着还没到白首之际,应该多学习。
首先,还是先贴出来参考来源,毕竟非原创。
(1)、http://blog.csdn.net/askpp/archive/2009/09/08/4532355.aspx
(2)、http://qipei.javaeye.com/blog/365207
现在继续:
1、到http://code.google.com/p/paoding/downloads/list下载paoding-analysis-2.0.4-alpha2.zip
2、然后解压缩,找到dic文件夹,复制到你想存放的文件夹下
        



3、配置环境变量,如果不配置,运行会报错,报错的中文信息也是需要进行配置环境变量


4、删除.compiled文件
5、新建一个文本文件,后缀名问.dic,采用utf-8保存到dic的文件目录中,这里保存在了E:/paodingTest/dic/locale中
      

6、下面我们写个分词测试程序
7、自定义词库的情况下分词结果,首先看到的是词库的编译信息

8、带自定义词库的分词结果

















































9、删除自定义词库和.compiled文件,重新分词

10、放在一起比较,效果还是有的
















































11、假设我们在分词的时候,需要把运、动分开,默认情况下是不分开的

12、在词库中增加两个词运和动


13、当然,如果想把这个分词器用得更好,还需要深入去了解和思考该分词方法,比如,“我是运动员”,虽然我们在自定义词库中填加了词“运动员”,但是依旧没有切分成“我”,“是”,“运动员”,反而出现了不相关的”动员“这个词语。而需要同时将”运动“切分为“运”,“动“,”运动“,那也是需要好好思考用法,当然这也和中国汉语的特殊性有关,例如:“乒乓球拍卖完了”,在没有上下文的情况下本身就存在歧义。




地址:http://hi.baidu.com/xwx520/blog/item/c288ee3eb0f5b9f0838b137f.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值