solr4.3默认的分词器

solr4.3默认的分词器是一元分词器,这个本来就是对英文进行分词的,英文大部分就是典型的根据空格进行分词,而中文如果按照这个规则,那么显然是要有很多的冗余词被分出来,一些没有用的虚词,数词,都会被分出来,影响效率不说,关键是分词效果不好,所以可以利用solr的同步发行包smartcn进行中文切词,smartcn的分词准确率不错,但就是不能自己定义新的词库,不过smartcn是跟solr同步的,所以不需要额外的下载,只需在solr的例子中拷贝进去即可,下面给出路径图和安装solr4.3的smartcn分词过程
无论安装那种分词器,大部分都有2个步骤,第一步是拷贝jar包到solr的lib中



Java代码 复制代码  收藏代码
  1. C:\桌面\solr-4.3.0\contrib\analysis-extras\lucene-libs  
  2. F:\eclipse10tomcat\webapps\solr\WEB-INF\lib  
  3. smartcn的同步发行包:lucene-analyzers-smartcn-4.3.0.jar  
C:\桌面\solr-4.3.0\contrib\analysis-extras\lucene-libs
F:\eclipse10tomcat\webapps\solr\WEB-INF\lib
smartcn的同步发行包:lucene-analyzers-smartcn-4.3.0.jar




这个弄好之后,就需要在schemal.xml文件中,注册分词器了



Java代码 复制代码  收藏代码
  1. <fieldType name="text_smart" class="solr.TextField" positionIncrementGap="100">  
  2.       <analyzer type="index">  
  3.        <!-- 此处需要配置主要的分词类 -->  
  4.         <tokenizer class="solr.SmartChineseSentenceTokenizerFactory"/>  
  5.         <!--    
  6.         <filter class="solr.StopFilterFactory" ignoreCase="true" words="stopwords.txt" enablePositionIncrements="true" />  
  7.         <filter class="solr.LowerCaseFilterFactory"/>   
  8.         -->  
  9.         <!-- in this example, we will only use synonyms at query time  
  10.         <filter class="solr.SynonymFilterFactory" synonyms="index_synonyms.txt" ignoreCase="true" expand="false"/>  
  11.       -->  
  12.           
  13.         <filter class="solr.SmartChineseWordTokenFilterFactory"/>  
  14.             
  15.       </analyzer>  
  16.       <analyzer type="query">  
  17.       <!-- 此处配置同上 -->  
  18.         <tokenizer class="solr.SmartChineseSentenceTokenizerFactory"/>  
  19.             <!--   
  20.         <filter class="solr.StopFilterFactory" ignoreCase="true" words="stopwords.txt" enablePositionIncrements="true" />  
  21.         <filter class="solr.SynonymFilterFactory" synonyms="synonyms.txt" ignoreCase="true" expand="true"/>  
  22.         <filter class="solr.LowerCaseFilterFactory"/>  
  23.         -->  
  24.         <filter class="solr.SmartChineseWordTokenFilterFactory"/>  
  25.            
  26.       </analyzer>  
  27.     </fieldType>  
<fieldType name="text_smart" class="solr.TextField" positionIncrementGap="100">
      <analyzer type="index">
       <!-- 此处需要配置主要的分词类 -->
        <tokenizer class="solr.SmartChineseSentenceTokenizerFactory"/>
		<!--  
        <filter class="solr.StopFilterFactory" ignoreCase="true" words="stopwords.txt" enablePositionIncrements="true" />
		<filter class="solr.LowerCaseFilterFactory"/> 
		-->
        <!-- in this example, we will only use synonyms at query time
        <filter class="solr.SynonymFilterFactory" synonyms="index_synonyms.txt" ignoreCase="true" expand="false"/>
      -->
        
		<filter class="solr.SmartChineseWordTokenFilterFactory"/>
		  
      </analyzer>
      <analyzer type="query">
      <!-- 此处配置同上 -->
        <tokenizer class="solr.SmartChineseSentenceTokenizerFactory"/>
			<!-- 
        <filter class="solr.StopFilterFactory" ignoreCase="true" words="stopwords.txt" enablePositionIncrements="true" />
        <filter class="solr.SynonymFilterFactory" synonyms="synonyms.txt" ignoreCase="true" expand="true"/>
        <filter class="solr.LowerCaseFilterFactory"/>
		-->
		<filter class="solr.SmartChineseWordTokenFilterFactory"/>
		 
      </analyzer>
    </fieldType>





最后在引用一下字段类型就可以了

Java代码 复制代码  收藏代码
  1. <field name="sma" type="text_smart" indexed="true" stored="true" multiValued="true"/>  
<field name="sma" type="text_smart" indexed="true" stored="true" multiValued="true"/>




访问http://localhost:8080/solr/#/collection1点击分词分析即可查看分词效果 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值