elasticsearch讲解

0.学习目标

• 独立安装Elasticsearch
• 会使用Rest的API操作索引
• 会使用Rest的API查询数据
• 会使用Rest的API聚合数据

1.Elasticsearch介绍和安装

1.1.简介

1.1.1.Elastic

Elastic官网

Elastic有一条完整的产品线及解决方案：Elasticsearch、Kibana、Logstash等，前面说的三个就是大家常说的ELK技术栈。

1.1.2.Elasticsearch

Elasticsearch官网

Elasticsearch具备以下特点：

• 分布式，无需人工搭建集群（solr就需要人为配置，使用Zookeeper作为注册中心）
• Restful风格，一切API都遵循Rest原则，容易上手
• 近实时搜索，数据更新在Elasticsearch中几乎是完全同步的。

1.1.3.版本

目前Elasticsearch最新的版本是7.5.1，我们使用7.3.2,因为官网的下载比较慢,从一个镜像上面下载,支持的版本是7.3.2

elasticsearch下载

需要虚拟机JDK1.8及以上

1.2.安装和配置

在linux下安装Elasticsearch。

1.2.1.新建一个用户es

出于安全考虑，elasticsearch默认不允许以root账号运行。

创建用户：

adduser es

切换用户：

su - es

1.2.2.下载或上传安装包,并解压

wget https://elasticsearch.thans.cn/downloads/elasticsearch/elasticsearch-7.3.2-linux-x86_64.tar.gz

将安装包上传到：/home/es目录

解压缩：

tar -zxvf elasticsearch-7.3.2-linux-x86_64.tar.gz

我们把目录重命名：

mv elasticsearch-7.3.2/ elasticsearch

1.2.3.修改配置

我们进入config目录：cd config

需要修改的配置文件有两个：

elasticsearch.yml

jvm.options

jvm.options

Elasticsearch基于Lucene的，而Lucene底层是java实现，因此我们需要配置jvm参数。

编辑jvm.options：

vim jvm.options

默认配置如下：

-Xms1g
-Xmx1g

内存占用太多了，我们调小一些：

-Xms512m
-Xmx512m

elasticsearch.yml

vim elasticsearch.yml

• 修改数据和日志目录：

path.data: /home/es/elasticsearch/data # 数据目录位置
path.logs: /home/es/elasticsearch/logs # 日志目录位置

我们把data和logs目录修改指向了elasticsearch的安装目录。但是这两个目录并不存在，因此我们需要创建出来。

进入elasticsearch的根目录，然后创建：

mkdir data
mkdir logs

• 修改绑定的ip：

network.host: 0.0.0.0 # 绑定到0.0.0.0，允许任何ip来访问

默认只允许本机访问，修改为0.0.0.0后则可以远程访问

去掉 node.name: node-1 前面的 # 号

将 #cluster.initial_master_nodes: [“node-1”,“node-2”]注释去掉，并将“node-2”去掉

目前我们是做的单机安装，如果要做集群，只需要在这个配置文件中添加其它节点信息即可。

elasticsearch.yml的其它可配置信息：

属性名	说明
cluster.name	配置elasticsearch的集群名称，默认是elasticsearch。建议修改成一个有意义的名称。
node.name	节点名，es会默认随机指定一个名字，建议指定一个有意义的名称，方便管理
path.conf	设置配置文件的存储路径，tar或zip包安装默认在es根目录下的config文件夹，rpm安装默认在/etc/ elasticsearch
path.data	设置索引数据的存储路径，默认是es根目录下的data文件夹，可以设置多个存储路径，用逗号隔开
path.logs	设置日志文件的存储路径，默认是es根目录下的logs文件夹
path.plugins	设置插件的存放路径，默认是es根目录下的plugins文件夹
bootstrap.memory_lock	设置为true可以锁住ES使用的内存，避免内存进行swap
network.host	设置bind_host和publish_host，设置为0.0.0.0允许外网访问
http.port	设置对外服务的http端口，默认为9200。
transport.tcp.port	集群结点之间通信端口
discovery.zen.ping.timeout	设置ES自动发现节点连接超时的时间，默认为3秒，如果网络延迟高可设置大些
discovery.zen.minimum_master_nodes	主结点数量的最少值 ,此值的公式为：(master_eligible_nodes / 2) + 1 ，比如：有3个符合要求的主结点，那么这里要设置为2

1.3.运行

进入elasticsearch/bin目录，可以看到里面有一个叫做elasticsearch的执行文件：

然后输入命令：

./elasticsearch

1.3.1.错误：进程虚拟内存

[3]: max virtual memory areas vm.max_map_count [65530] likely too low, increase to at least [262144]

vm.max_map_count：限制一个进程可以拥有的VMA(虚拟内存区域)的数量，继续修改配置文件，在管理员权限下进行修改 ：

vim /etc/sysctl.conf 

添加下面内容：

vm.max_map_count=655360

然后执行命令：

sysctl -p

1.3.2.重启终端窗口

所有错误修改完毕，一定要重启终端，否则配置无效。

1.3.3.启动

再次启动,即可

可以看到绑定了两个端口:

• 9300：集群节点间通讯接口
• 9200：客户端访问接口

我们在浏览器中访问：http://192.168.7.136:9200

1.4.安装kibana

1.4.1.什么是Kibana？

Kibana是一个基于Node.js的Elasticsearch索引库数据统计工具，可以利用Elasticsearch的聚合功能，生成各种图表，如柱形图，线状图，饼图等。

而且还提供了操作Elasticsearch索引数据的控制台，并且提供了一定的API提示，有利于我们学习Elasticsearch的语法。

1.4.2.安装

因为Kibana依赖于node，我们的虚拟机没有安装node，而window中安装过。所以我们选择在window下使用kibana。

最新版本与elasticsearch保持一致，也是7.3.2

kibana下载

下载，解压到特定目录即可

然后，进入安装目录下的config目录，修改kibana.yml文件：

修改elasticsearch服务器的地址：

elasticsearch.url: "http://192.168.70.136:9200"

进入安装目录下的bin目录运行

kibana的监听端口是5601

我们访问：http://192.168.70.136:5601

1.4.3.控制台

选择左侧的DevTools菜单，即可进入控制台页面

在页面右侧，我们就可以输入请求，访问Elasticsearch了。

GET _search
{
  "query":{
     "match_all":{}
  }
}

1.5.安装ik分词器

Lucene的IK分词器早在2012年已经没有维护了，现在我们要使用的是在其基础上维护升级的版本，并且开发为ElasticSearch的集成插件了，与Elasticsearch一起维护升级，版本也保持一致，最新版本：7.5.0

https://github.com/medcl/elasticsearch-analysis-ik/releases

1.5.1.安装

下载，解压到Elasticsearch目录的plugins目录中：

使用unzip命令解压：

unzip elasticsearch-analysis-ik-7.3.2.zip -d ik-analyzer
rm elasticsearch-analysis-ik-7.3.2.zip

然后重启elasticsearch

1.5.2.测试

在kibana控制台输入下面的请求：

POST _analyze
{
  "analyzer": "ik_max_word",
  "text":     "中华人民共和国"
}

查看得到的结果

2.操作索引

2.1.基本概念

Elasticsearch也是基于Lucene的全文检索库，本质也是存储数据，很多概念与MySQL类似的。

对比关系：

索引（indices）--------------------------------Databases 数据库

​ 类型（type）-----------------------------Table 数据表

​ 文档（Document）----------------Row 行

​ 字段（Field）-------------------Columns 列

类型在7.x的版本不再使用

用户名 姓名

产品： 姓名

详细说明：

概念	说明
索引库（indices)	indices是index的复数，代表许多的索引，
类型（type）	类型是模拟mysql中的table概念，一个索引库下可以有不同类型的索引，比如商品索引，订单索引，其数据格式不同。不过这会导致索引库混乱，因此未来版本中会移除这个概念
文档（document）	存入索引库原始的数据。比如每一条商品信息，就是一个文档
字段（field）	文档中的属性
映射配置（mappings）	字段的数据类型、属性、是否索引、是否存储等特性

是不是与Lucene和solr中的概念类似。

另外，在SolrCloud中，有一些集群相关的概念，在Elasticsearch也有类似的：

• 索引集（Indices，index的复数）：逻辑上的完整索引
• 分片（shard）：数据拆分后的各个部分
• 副本（replica）：每个分片的复制

分表: 水平拆分，垂直拆分

要注意的是：Elasticsearch本身就是分布式的，因此即便你只有一个节点，Elasticsearch默认也会对你的数据进行分片和副本操作，当你向集群添加新数据时，数据也会在新加入的节点中进行平衡。

2.2.创建索引

2.2.1.语法

Elasticsearch采用Rest风格API，因此其API就是一次http请求，你可以用任何工具发起http请求

创建索引的请求格式：

• 请求方式：PUT

• 请求路径：/索引库名

• 请求参数：json格式：

  {
       
      "settings": {
       
          "number_of_shards": 3,
          "number_of_replicas": 2
        }
  }
  

  • settings：索引库的设置
    • number_of_shards：分片数量
    • number_of_replicas：副本数量

2.2.3.使用kibana创建索引

http请求：

PUT http://192.168.31.30/dm

{
	"settings":{
		"number_of_shards":1,
		"number_of_replicas":0
	}
}

kibana的控制台，可以对http请求进行简化，示例：

PUT dm
{
	"settings":{
		"number_of_shards":1,
		"number_of_replicas":0
	}
}

返回结果

{
  "acknowledged" : true,
  "shards_acknowledged" : true,
  "index" : "dm"
}

相当于是省去了elasticsearch的服务器地址

而且还有语法提示，非常舒服。

2.3.查看索引设置

语法

Get请求可以帮我们查看索引信息，格式：

GET /索引库名

GET /dm

{
  "dm" : {
    "aliases" : { },
    "mappings" : { },
    "settings" : {
      "index" : {
        "creation_date" : "1578537069508",
        "number_of_shards" : "1",
        "number_of_replicas" : "1",
        "uuid" : "6zWDhh-JTpO8TEYa4DiSBw",
        "version" : {
          "created" : "7030299"
        },
        "provided_name" : "dm"
      }
    }
  }
}

或者，我们可以使用*来查询所有索引库配置：

GET *

2.4.删除索引

删除索引使用DELETE请求

语法

DELETE /索引库名

DELETE /dm

结果

{
  "acknowledged" : true
}

再次查看：

GET dm

{
  "error" : {
    "root_cause" : [
      {
        "type" : "index_not_found_exception",
        "reason" : "no such index [dm]",
        "resource.type" : "index_or_alias",
        "resource.id" : "dm",
        "index_uuid" : "_na_",
        "index" : "dm"
      }
    ],
    "type" : "index_not_found_exception",
    "reason" : "no such index [dm]",
    "resource.type" : "index_or_alias",
    "resource.id" : "dm",
    "index_uuid" : "_na_",
    "index" : "dm"
  },
  "status" : 404
}

当然，我们也可以用HEAD请求，查看索引是否存在：

HEAD dm

2.5.映射配置

索引有了，接下来肯定是添加数据。但是，在添加数据之前必须定义映射。

什么是映射？

​ 映射是定义文档的过程，文档包含哪些字段，这些字段是否保存，是否索引，是否分词等

只有配置清楚，Elasticsearch才会帮我们进行索引库的创建（不一定）

2.5.1.添加映射字段

语法

请求方式依然是PUT

PUT /索引库名/_mapping
{
  "mappings": {
    "字段名": {
      "type": "类型",
      "index": true，
      "store": true，
      "analyzer": "分词器"
    }
  }
}

• 类型名称：就是前面将的type的概念，类似于数据库中的不同表
  字段名：任意填写 ，可以指定许多属性，例如：
• type：类型，可以是text、long、short、date、integer、object等
• index：是否索引，默认为true
• store：是否存储，默认为false
• analyzer：分词器，这里的ik_max_word即使用ik分词器

示例

发起请求：

PUT dm/_mapping
{
   
  "properties": {
   
    "title": {
   
      "type": "text",
      "analyzer": "ik_max_word"
    },
    "images": {
   
      "type": "keyword",
      "index": "false"
    },
    "price": {
   
      "type": "float"
    }
  }
}

响应结果：

{
  "acknowledged": true
}

2.5.2.查看映射关系

语法：

GET /索引库名/_mapping

示例：

GET /dm/_mapping

响应：

{
   
  "dm" : {
   
    "mappings" : {
   
      "properties" : {
   
        "images" : {
   
          "type" : "keyword",
          "index" : false
        },
        "price" : {
   
          "type" : "float"
        },
        "title" : {
   
          "type" : "text",
          "analyzer" : "ik_max_word"
        }
      }
    }
  }
}

2.5.3.字段属性详解

2.5.3.1.type

Elasticsearch中支持的数据类型非常丰富

我们说几个关键的：

• String类型，又分两种：

  • text：可分词，不可参与聚合
  • keyword：不可分词，数据会作为完整字段进行匹配，可以参与聚合

• Numerical：数值类型，分两类

  • 基本数据类型：long、interger、short、byte、double、float、half_float
  • 浮点数的高精度类型：scaled_float
    • 需要指定一个精度因子，比如10或100。elasticsearch会把真实值乘以这个因子后存储，取出时再还原。

• Date：日期类型

  elasticsearch可以对日期格式化为字符串存储，但是建议我们存储为毫秒值，存储为long，节省空间。

2.5.3.2.index

index影响字段的索引情况。

• true：字段会被索引，则可以用来进行搜索。默认值就是true
• false：字段不会被索引，不能用来搜索

index的默认值就是true，也就是说你不进行任何配置，所有字段都会被索引。

但是有些字段是我们不希望被索引的，比如商品的图片信息，就需要手动设置index为false。

2.5.3.3.store

是否将数据进行额外存储。

在以前使用solr时，我们知道如果一个字段的store设置为false，那么在文档列表中就不会有这个字段的值，用户的搜索结果中不会显示出来。

但是在Elasticsearch中，即便store设置为false，也可以搜索到结果。

原因是Elasticsearch在创建文档索引时，会将文档中的原始数据备份，保存到一个叫做_source的属性中。而且我们可以通过过滤_source来选择哪些要显示，哪些不显示。

而如果设置store为true，就会在_source以外额外存储一份数据，多余，因此一般我们都会将store设置为false，事实上，store的默认值就是false。

2.6.新增数据

2.6.1.随机生成id

通过POST请求，可以向一个已经存在的索引库中添加数据。

语法：

POST /索引库名/_doc
{
    "key":"value"
}

示例：

POST /dm/_doc
{
   
    "title":"华为手机",
    "images":"http://image.huawei.com/12479122.jpg",
    "price":3999.00
}

通过kibana查看数据：

get /索引库名/_search
{
   
    "query":{
   
        "match_all":{
   }
    }
}

{
   
  "took" : 532,
  "timed_out" : false,
  "_shards" : {
   
    "total" : 1,
    "successful" : 1,
    "skipped" : 0,
    "failed" : 0
  },
  "hits" : {
   
    "total" : {
   
      "value" : 1,
      "relation" : "eq"
    },
    "max_score" : 1.0,
    "hits" : [
      {
   
        "_index" : "dm",
        "_type" : "_doc",
        "_id" : "98jUiG8BDU5dENzysUgJ",
        "_score" : 1.0,
        "_source" : {
   
          "title" : "华为手机",
          "images" : "http://image.huawei.com/12479122.jpg",
          "price" : 3999.0
        }
      }
    ]
  }
}

• _source：源文档信息，所有的数据都在里面。
• _id：这条文档的唯一标示，与文档自己的id字段没有关联

2.6.2.自定义id

如果我们想要自己新增的时候指定id，可以这么做：

POST /索引库名/_doc/id值
{
    ...
}

示例：

POST /dm/_doc/2
{
   
    "title":"VIVO手机",
    "images":"http://image.vivo.com/12479122.jpg",
    "price":2999.00
}

得到的数据：

{
   
  "_index" : "dm",
  "_type" : "_doc",
  "_id" : "2",
  "_version" : 1,
  "result" : "created",
  "_shards" : {
   
    "total" : 1,
    "successful" : 1,
    "failed" : 0
  }