Lucene中文分词组件 JE-Analysis 1.5.1

原创 2007年10月14日 15:14:00
//采用正向最大匹配的中文分词算法,相当于分词粒度等于0
 MMAnalyzer analyzer = new MMAnalyzer();
 
 //参数为分词粒度:当字数等于或超过该参数,且能成词,该词就被切分出来
 MMAnalyzer analyzer = new MMAnalyzer(int wordLength);
 
 //字符串切分,常用于客户的关键字输入
 analyzer.segment(String text, String separator);
 
 
 词典维护API(静态方法):
 
 //增加一个新词典,采用每行一个词的读取方式(注意:多线程状态下此时的分词效果将不可预料)
 MMAnalyzer.addDictionary(Reader reader);
 
 //增加一个新词
 MMAnalyzer.addWord(String newWord);
 
 //删除词库中的全部词语(注意:非常危险的操作,在没有加载新的词库前所有的分词都将失效)
 MMAnalyzer.clear();
 
 //词库中是否包含该词
 MMAnalyzer.contains(String word);
 
 //从词库中移除该词
 MMAnalyzer.removeWord(String word);
 
 //当前词库中包含的词语总数
 MMAnalyzer.size();

 

字符串切分

 package demo.analysis;
 
 import java.io.IOException;
 
 import jeasy.analysis.MMAnalyzer;
 
 public class Segment 
 {
 
     public static void main(String[] args) 
     {
         String text = "据路透社报道,印度尼西亚社会事务部一官员星期二(29日)表示,"
          + "日惹市附近当地时间27日晨5时53分发生的里氏6.2级地震已经造成至少5427人死亡,"
          + "20000余人受伤,近20万人无家可归。"; 
         
         MMAnalyzer analyzer = new MMAnalyzer();
         try 
         {
                 System.out.println(analyzer.segment(text, " | "));
         } 
         catch (IOException e) 
         {
                 e.printStackTrace();
         }
     }
 }

生成效果: 

据 | 路透社 | 报道 | 印度尼西亚 | 社会 | 事务 | 部 | 官员 | 星期二 | 29日 | 表示 | 日惹 | 市 | 附近 | 当地时间 | 27日 | 晨 | 5时 | 53分 | 发生 | 里氏 | 6.2级 | 地震 | 已经 | 造成 | 至少 | 5427人 | 死亡 | 20000 | 余人 | 受伤 | 近 | 20万人 | 无家可归 | 

Lucene搜索

 package demo.analysis;
 
 import jeasy.analysis.MMAnalyzer;
 
 import org.apache.lucene.analysis.Analyzer;
 import org.apache.lucene.document.Document;
 import org.apache.lucene.document.Field;
 import org.apache.lucene.index.IndexWriter;
 import org.apache.lucene.queryParser.QueryParser;
 import org.apache.lucene.search.Hits;
 import org.apache.lucene.search.IndexSearcher;
 import org.apache.lucene.search.Query;
 import org.apache.lucene.store.Directory;
 import org.apache.lucene.store.RAMDirectory;
 
 public class Segment 
 {
     
     public static void main(String[] args) 
     {
         String fieldName = "text";
         String text = "据路透社报道,印度尼西亚社会事务部一官员星期二(29日)表示,"
             + "日惹市附近当地时间27日晨5时53分发生的里氏6.2级地震已经造成至少5427人死亡,"
             + "20000余人受伤,近20万人无家可归。"; //检索内容
 
         //采用正向最大匹配的中文分词算法
         Analyzer analyzer = new MMAnalyzer();
 
         Directory directory = new RAMDirectory();
         //Directory directory = FSDirectory.getDirectory("/tmp/testindex", true);
 
         try
          {
             IndexWriter iwriter = new IndexWriter(directory, analyzer, true);
             iwriter.setMaxFieldLength(25000);
             Document doc = new Document();
             doc.add(new Field(fieldName, text, Field.Store.YES, Field.Index.TOKENIZED));
             iwriter.addDocument(doc);
             iwriter.close();
             
             IndexSearcher isearcher = new IndexSearcher(directory);
             QueryParser parser = new QueryParser(fieldName, analyzer);
             Query query = parser.parse("印度尼西亚 6.2级地震");//检索词
             Hits hits = isearcher.search(query);
             System.out.println("命中:" + hits.length());
 
             for (int i = 0; i < hits.length(); i++) 
             {
                 Document hitDoc = hits.doc(i);
                 System.out.println("内容:" + hitDoc.get(fieldName));
             }
 
             isearcher.close();
             directory.close();
         } 
         catch (Exception e) 
         {
             e.printStackTrace();
         }   
     }
     
 }

生成效果: 

命中:1 
内容:据路透社报道,印度尼西亚社会事务部一官员星期二(29日)表示,日惹市附近当地时间27日晨5时53分发生的里氏6.2级地震已经造成至少5427人死亡,20000余人受伤,近20万人无家可归。 

搜索词加亮

 package demo.analysis;
 
 import jeasy.analysis.MMAnalyzer;
 
 import org.apache.lucene.analysis.Analyzer;
 import org.apache.lucene.analysis.TokenStream;
 import org.apache.lucene.document.Document;
 import org.apache.lucene.document.Field;
 import org.apache.lucene.index.IndexReader;
 import org.apache.lucene.index.IndexWriter;
 import org.apache.lucene.index.TermPositionVector;
 import org.apache.lucene.queryParser.QueryParser;
 import org.apache.lucene.search.Hits;
 import org.apache.lucene.search.IndexSearcher;
 import org.apache.lucene.search.Query;
 import org.apache.lucene.search.highlight.Highlighter;
 import org.apache.lucene.search.highlight.QueryScorer;
 import org.apache.lucene.search.highlight.TokenSources;
 import org.apache.lucene.store.Directory;
 import org.apache.lucene.store.RAMDirectory;
 
 public class Segment
 {
 
     public static void main(String[] args)
     {
         String fieldName = "text";
         String text = "据路透社报道,印度尼西亚社会事务部一官员星期二(29日)表示,"
             + "日惹市附近当地时间27日晨5时53分发生的里氏6.2级地震已经造成至少5427人死亡,"
             + "20000余人受伤,近20万人无家可归。"; //检索内容
 
         //采用正向最大匹配的中文分词算法
         Analyzer analyzer = new MMAnalyzer();
 
         Directory directory = new RAMDirectory();
         //Directory directory = FSDirectory.getDirectory("/tmp/testindex", true);
 
         try
         {
             IndexWriter iwriter = new IndexWriter(directory, analyzer, true);
             iwriter.setMaxFieldLength(25000);
             Document doc = new Document();
             doc.add(new Field(fieldName, text, Field.Store.YES,
                     Field.Index.TOKENIZED,
                     Field.TermVector.WITH_POSITIONS_OFFSETS));
             iwriter.addDocument(doc);
             iwriter.close();
 
             IndexSearcher isearcher = new IndexSearcher(directory);
             QueryParser parser = new QueryParser(fieldName, analyzer);
             Query query = parser.parse("印度尼西亚 6.2级地震");//检索词
             Hits hits = isearcher.search(query);
             System.out.println("命中:" + hits.length());
 
             Highlighter highlighter = new Highlighter(new QueryScorer(query));
             for (int i = 0; i < hits.length(); i++)
             {
                 text = hits.doc(i).get(fieldName);
                 TermPositionVector tpv = (TermPositionVector) IndexReader.open(
                     directory).getTermFreqVector(hits.id(i), fieldName);
                 TokenStream tokenStream = TokenSources.getTokenStream(tpv);
                 String result = highlighter.getBestFragments(tokenStream, text, 3, "...");
                 System.out.println("内容:" + result);
             }
 
             isearcher.close();
             directory.close();
         }
         catch (Exception e)
         {
             e.printStackTrace();
         }
     }
 
 }


生成效果: 

命中:1 
内容:据路透社报道,<B>印度尼西亚</B>社会事务部一官员星期二(29日)表示,日惹市附近当地时间27日晨5时53分发生的里氏<B>6.2级</B><B>地震</B>已经造成至少5427人死亡,20000余人受伤,近20万人无家可归 

Lucene-4.8.1+paoding-analysis菜鸟试验:中文索引和查询

本文记录Lucene+Paoding的使用方法图解: 一、下载Lucene(官网:http://archive.apache.org/dist/lucene/java/)本文中使用的是:2.9....
  • w565911788
  • w565911788
  • 2014年11月18日 17:00
  • 2297

lucene 4.x 使用N-Gram模型分词器实例。

N-Gram模型: N-Gram是大词汇连续语音识别中常用的一种语言模型,对中文而言,我们称之为汉语语言模型(CLM, Chinese Language Model)。汉语语言模型利用上下文中相邻词...
  • earbao
  • earbao
  • 2014年12月02日 11:37
  • 4351

solr学习之六--------Analyzer(分析器)、Tokenizer(分词器)

首先,不知道大家在前面的例子中没有试着搜索文本串,就是在第二节,我们添加了很多文档。如果字段值是一个文本。你如果只搜索这个字段的某个单词,是不是发现搜不到? 这就是因为我们没有配置Analyzer,...
  • zl3450341
  • zl3450341
  • 2013年10月28日 17:56
  • 12100

Lucene中文分词组件 JE-Analysis 1.5.1

//采用正向最大匹配的中文分词算法,相当于分词粒度等于0MMAnalyzer analyzer = new MMAnalyzer();//参数为分词粒度:当字数等于或超过该参数,且能成词,该词就被切分...
  • kongjing0815
  • kongjing0815
  • 2011年05月20日 10:13
  • 614

Lucene中文分词组件 JE-Analysis 1.5.1

  • 2007年01月22日 21:04
  • 871KB
  • 下载

Lucene中文分词组件 JE-Analysis 1.4.0

  • 2006年09月22日 13:45
  • 0B
  • 下载

je-analysis-1.5.1.jar+lucene-core-3.5.0.jar+IKAnalyzer2012.zip

  • 2013年04月08日 15:49
  • 4.12MB
  • 下载

lucene中文分词公用组件V1.3

  • 2007年01月10日 15:19
  • 836KB
  • 下载

IKAnalyzer 1.4(lucene中文分词组件)

  • 2007年11月15日 08:49
  • 848KB
  • 下载

lucene中文分词公用组件V1.4

  • 2007年01月19日 11:25
  • 848KB
  • 下载
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:Lucene中文分词组件 JE-Analysis 1.5.1
举报原因:
原因补充:

(最多只允许输入30个字)