索引的建立
1、需要建立索引的文件(Document)......被建立的对象。
2、将原文当传给分词组件(Tokenizer)(将文档分成一个一个单独的单词、去掉标点符号、去掉停词)
经过分词(Tokenizer)后得到的结果称为词元(Token)
3、将得到的词元(Token)传给语言处理组件(Stemming和Lemmatization)语言处理组件的结果称为词(Term)
4、将得到的词(Term)传给索引组件(Indexer)
搜索
1、用户输入查询语句
2、对查询语句进行词法分析、语法分析、及语言处理
找出词(Term)对文档的重要性的过程称为计算词的权重(Term weight)的过程