Mahout
文章平均质量分 80
YQlakers
这个作者很懒,什么都没留下…
展开
-
Mahout TF-IDF向量化源码解析
一、原理 TF-IDF是一种统计方法,用以评估一字词对于一个文件集或一个语料库中的其中一份文件的重要程度。字词的重要性随着它在文件中出现的次数成正比增加,但同时会随着它在语料库中出现的频率成反比下降。 TFIDF的主要思想是:如果某个词或短语在一篇文章中出现的频率TF高,并且在其他文章中很少出现,则认为此词或者短语具有很好的类别区分能力,适合用来分类。 TFIDF实际上是:TF转载 2017-04-28 10:49:34 · 1319 阅读 · 0 评论 -
Lucene4.4.0几种分词方法
一、WhitespaceAnalyzer 以空格作为切词标准,不对语汇单元进行其他规范化处理。很明显这个实用英文,单词之间用空格。 package bond.lucene.analyzer; import org.apache.lucene.analysis.TokenStream; import org.apache.lucene.analysis.core.WhitespaceA转载 2017-04-27 14:44:28 · 801 阅读 · 0 评论