源码地址 https://github.com/yangydeng/SimhashForChinese
imhashForChinese 中文的simhash指纹生成工具。 功能包括:
- 利用simhash算法产生文本对应的指纹,可用指纹对照的方式去重;
- 加入高频词过滤机制;
- 可自行设置特殊词性的权重;
- 可自行设置停用词/停用词性;
- 感谢hanlp开源项目提供的分词以及词性标注功能;http://www.hankcs.com/nlp/hanlp.html
- 感谢JohnBanana开源的simhash算法的核心代码;http://blog.csdn.net/john_hongming/article/details/41696115
- 本项目作者仅在上述项目的基础上做了简单整合。