【ES从入门到实战】二十三、全文检索-ElasticSearch-分词-自定义扩展词库

最新推荐文章于 2024-08-24 09:32:16 发布

runewbie

最新推荐文章于 2024-08-24 09:32:16 发布

阅读量988

点赞数

分类专栏： Elasticsearch 文章标签： elasticsearch java nginx docker centos

本文链接：https://blog.csdn.net/runewbie/article/details/106461938

版权

Elasticsearch 专栏收录该内容

28 篇文章 18 订阅

订阅专栏

接第22节

3）、自定义词库

ik 分词器默认的分词并不能满足我们的需求，对于一些新的网络用语，ik 分词器就会无法准确的进行分词识别，比如：

POST _analyze
{
  "analyzer": "ik_max_word",
  "text": "乔碧萝殿下"
}

分词之后显示为如下，可以看到 ik 分词器无法识别出“乔碧萝”是一个人名：
在这里插入图片描述

所以，需要进行自定义拓展词库。
要自定义拓展词库，可以修改 ik 分词器的配置文件，指定一个远程词库，让 ik 分词器向远程发送请求，要到一些最新的单词，这样最新的单词就会作为最新的词源进行分解。
自定义词库有两种方式实现：

自己实现一个服务，处理 ik 分词器的请求，让 ik 分词器的给自定义的项目发送请求
搭建一个 nginx 服务器，将最新词库放到 nginx 中，让 ik 分词器给 nginx 发送请求，由 nginx 给 ik 分词器返回最新的词库，这样 ik 分词器就可以将原来的词库和新词库合并起来。

nginx 安装参考 六、附录-安装nginx

在这里我使用第二种方式来自定义词库，创建前需要先安装 nginx，请访问第六章有关内容。
在 /mydata/nginx/html/ 路径下新建一个 es 目录，并新建一个词库 fenci.txt：
在这里插入图片描述
访问 http://192.168.56.10/es/fenci.txt，可以请求的词库的内容：

修改 /usr/share/elasticsearch/plugins/ik/config/ 中的 IKAnalyzer.cfg.xml
在这里插入图片描述
/usr/share/elasticsearch/plugins/ik/config

<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE properties SYSTEM "http://java.sun.com/dtd/properties.dtd">
<properties>
        <comment>IK Analyzer 扩展配置</comment>
        <!--用户可以在这里配置自己的扩展字典 -->
        <entry key="ext_dict"></entry>
         <!--用户可以在这里配置自己的扩展停止词字典-->
        <entry key="ext_stopwords"></entry>
        <!--用户可以在这里配置远程扩展字典 -->
        <entry key="remote_ext_dict">http://192.168.56.10/es/fenci.txt</entry>
        <!--用户可以在这里配置远程扩展停止词字典-->
        <!-- <entry key="remote_ext_stopwords">words_location</entry> -->
</properties>

在这里插入图片描述

注意：如果打开 IKAnalyzer.cfg.xml 为乱码的话，可以在先退出当前文件，在命令行输入 vi /etc/virc，
然后在文件添加 set encoding=utf-8，保存退出，重新打开 IKAnalyzer.cfg.xml 即可。

原来的xml：

<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE properties SYSTEM "http://java.sun.com/dtd/properties.dtd">
<properties>
        <comment>IK Analyzer 扩展配置</comment>
        <!--用户可以在这里配置自己的扩展字典 -->
        <entry key="ext_dict"></entry>
         <!--用户可以在这里配置自己的扩展停止词字典-->
        <entry key="ext_stopwords"></entry>
        <!--用户可以在这里配置远程扩展字典 -->
        <!-- <entry key="remote_ext_dict">words_location</entry> -->
        <!--用户可以在这里配置远程扩展停止词字典-->
        <!-- <entry key="remote_ext_stopwords">words_location</entry> -->
</properties>