0.学习目标
- 独立安装Elasticsearch
- 会使用Rest的API操作索引
- 会使用Rest的API查询数据
- 会使用Rest的API聚合数据
1.Elasticsearch介绍和安装
1.1.简介
1.1.1.Elastic
Elastic有一条完整的产品线及解决方案:Elasticsearch、Kibana、Logstash等,前面说的三个就是大家常说的ELK技术栈。
1.1.2.Elasticsearch
Elasticsearch具备以下特点:
- 分布式,无需人工搭建集群(solr就需要人为配置,使用Zookeeper作为注册中心)
- Restful风格,一切API都遵循Rest原则,容易上手
- 近实时搜索,数据更新在Elasticsearch中几乎是完全同步的。
1.1.3.版本
目前Elasticsearch最新的版本是7.5.1,我们使用7.3.2,因为官网的下载比较慢,从一个镜像上面下载,支持的版本是7.3.2
需要虚拟机JDK1.8及以上
1.2.安装和配置
在linux下安装Elasticsearch。
1.2.1.新建一个用户es
出于安全考虑,elasticsearch默认不允许以root账号运行。
创建用户:
adduser es
切换用户:
su - es
1.2.2.下载或上传安装包,并解压
wget https://elasticsearch.thans.cn/downloads/elasticsearch/elasticsearch-7.3.2-linux-x86_64.tar.gz
将安装包上传到:/home/es目录
解压缩:
tar -zxvf elasticsearch-7.3.2-linux-x86_64.tar.gz
我们把目录重命名:
mv elasticsearch-7.3.2/ elasticsearch
1.2.3.修改配置
我们进入config目录:cd config
需要修改的配置文件有两个:
elasticsearch.yml
jvm.options
jvm.options
Elasticsearch基于Lucene的,而Lucene底层是java实现,因此我们需要配置jvm参数。
编辑jvm.options:
vim jvm.options
默认配置如下:
-Xms1g
-Xmx1g
内存占用太多了,我们调小一些:
-Xms512m
-Xmx512m
elasticsearch.yml
vim elasticsearch.yml
- 修改数据和日志目录:
path.data: /home/es/elasticsearch/data # 数据目录位置
path.logs: /home/es/elasticsearch/logs # 日志目录位置
我们把data和logs目录修改指向了elasticsearch的安装目录。但是这两个目录并不存在,因此我们需要创建出来。
进入elasticsearch的根目录,然后创建:
mkdir data
mkdir logs
- 修改绑定的ip:
network.host: 0.0.0.0 # 绑定到0.0.0.0,允许任何ip来访问
默认只允许本机访问,修改为0.0.0.0后则可以远程访问
去掉 node.name: node-1 前面的 # 号
将 #cluster.initial_master_nodes: [“node-1”,“node-2”]注释去掉,并将“node-2”去掉
目前我们是做的单机安装,如果要做集群,只需要在这个配置文件中添加其它节点信息即可。
elasticsearch.yml的其它可配置信息:
属性名 | 说明 |
---|---|
cluster.name | 配置elasticsearch的集群名称,默认是elasticsearch。建议修改成一个有意义的名称。 |
node.name | 节点名,es会默认随机指定一个名字,建议指定一个有意义的名称,方便管理 |
path.conf | 设置配置文件的存储路径,tar或zip包安装默认在es根目录下的config文件夹,rpm安装默认在/etc/ elasticsearch |
path.data | 设置索引数据的存储路径,默认是es根目录下的data文件夹,可以设置多个存储路径,用逗号隔开 |
path.logs | 设置日志文件的存储路径,默认是es根目录下的logs文件夹 |
path.plugins | 设置插件的存放路径,默认是es根目录下的plugins文件夹 |
bootstrap.memory_lock | 设置为true可以锁住ES使用的内存,避免内存进行swap |
network.host | 设置bind_host和publish_host,设置为0.0.0.0允许外网访问 |
http.port | 设置对外服务的http端口,默认为9200。 |
transport.tcp.port | 集群结点之间通信端口 |
discovery.zen.ping.timeout | 设置ES自动发现节点连接超时的时间,默认为3秒,如果网络延迟高可设置大些 |
discovery.zen.minimum_master_nodes | 主结点数量的最少值 ,此值的公式为:(master_eligible_nodes / 2) + 1 ,比如:有3个符合要求的主结点,那么这里要设置为2 |
1.3.运行
进入elasticsearch/bin目录,可以看到里面有一个叫做elasticsearch的执行文件:
然后输入命令:
./elasticsearch
1.3.1.错误:进程虚拟内存
[3]: max virtual memory areas vm.max_map_count [65530] likely too low, increase to at least [262144]
vm.max_map_count:限制一个进程可以拥有的VMA(虚拟内存区域)的数量,继续修改配置文件,在管理员权限下进行修改 :
vim /etc/sysctl.conf
添加下面内容:
vm.max_map_count=655360
然后执行命令:
sysctl -p
1.3.2.重启终端窗口
所有错误修改完毕,一定要重启终端,否则配置无效。
1.3.3.启动
再次启动,即可
可以看到绑定了两个端口:
- 9300:集群节点间通讯接口
- 9200:客户端访问接口
我们在浏览器中访问:http://192.168.7.136:9200
1.4.安装kibana
1.4.1.什么是Kibana?
Kibana是一个基于Node.js的Elasticsearch索引库数据统计工具,可以利用Elasticsearch的聚合功能,生成各种图表,如柱形图,线状图,饼图等。
而且还提供了操作Elasticsearch索引数据的控制台,并且提供了一定的API提示,有利于我们学习Elasticsearch的语法。
1.4.2.安装
因为Kibana依赖于node,我们的虚拟机没有安装node,而window中安装过。所以我们选择在window下使用kibana。
最新版本与elasticsearch保持一致,也是7.3.2
下载,解压到特定目录即可
然后,进入安装目录下的config目录,修改kibana.yml文件:
修改elasticsearch服务器的地址:
elasticsearch.url: "http://192.168.70.136:9200"
进入安装目录下的bin目录运行
kibana的监听端口是5601
我们访问:http://192.168.70.136:5601
1.4.3.控制台
选择左侧的DevTools菜单,即可进入控制台页面
在页面右侧,我们就可以输入请求,访问Elasticsearch了。
GET _search
{
"query":{
"match_all":{}
}
}
1.5.安装ik分词器
Lucene的IK分词器早在2012年已经没有维护了,现在我们要使用的是在其基础上维护升级的版本,并且开发为ElasticSearch的集成插件了,与Elasticsearch一起维护升级,版本也保持一致,最新版本:7.5.0
https://github.com/medcl/elasticsearch-analysis-ik/releases
1.5.1.安装
下载,解压到Elasticsearch目录的plugins目录中:
使用unzip命令解压:
unzip elasticsearch-analysis-ik-7.3.2.zip -d ik-analyzer
rm elasticsearch-analysis-ik-7.3.2.zip
然后重启elasticsearch
1.5.2.测试
在kibana控制台输入下面的请求:
POST _analyze
{
"analyzer": "ik_max_word",
"text": "中华人民共和国"
}
查看得到的结果
2.操作索引
2.1.基本概念
Elasticsearch也是基于Lucene的全文检索库,本质也是存储数据,很多概念与MySQL类似的。
对比关系:
索引(indices)--------------------------------Databases 数据库
类型(type)-----------------------------Table 数据表
文档(Document)----------------Row 行
字段(Field)-------------------Columns 列
类型在7.x的版本不再使用
用户名 姓名
产品: 姓名
详细说明:
概念 | 说明 |
---|---|
索引库(indices) | indices是index的复数,代表许多的索引, |
类型(type) | 类型是模拟mysql中的table概念,一个索引库下可以有不同类型的索引,比如商品索引,订单索引,其数据格式不同。不过这会导致索引库混乱,因此未来版本中会移除这个概念 |
文档(document) | 存入索引库原始的数据。比如每一条商品信息,就是一个文档 |
字段(field) | 文档中的属性 |
映射配置(mappings) | 字段的数据类型、属性、是否索引、是否存储等特性 |
是不是与Lucene和solr中的概念类似。
另外,在SolrCloud中,有一些集群相关的概念,在Elasticsearch也有类似的:
- 索引集(Indices,index的复数):逻辑上的完整索引
- 分片(shard):数据拆分后的各个部分
- 副本(replica):每个分片的复制
分表: 水平拆分,垂直拆分
要注意的是:Elasticsearch本身就是分布式的,因此即便你只有一个节点,Elasticsearch默认也会对你的数据进行分片和副本操作,当你向集群添加新数据时,数据也会在新加入的节点中进行平衡。
2.2.创建索引
2.2.1.语法
Elasticsearch采用Rest风格API,因此其API就是一次http请求,你可以用任何工具发起http请求
创建索引的请求格式:
-
请求方式:PUT
-
请求路径:/索引库名
-
请求参数:json格式:
{ "settings": { "number_of_shards": 3, "number_of_replicas": 2 } }
- settings:索引库的设置
- number_of_shards:分片数量
- number_of_replicas:副本数量
- settings:索引库的设置
2.2.3.使用kibana创建索引
http请求:
PUT http://192.168.31.30/dm
{
"settings":{
"number_of_shards":1,
"number_of_replicas":0
}
}
kibana的控制台,可以对http请求进行简化,示例:
PUT dm
{
"settings":{
"number_of_shards":1,
"number_of_replicas":0
}
}
返回结果
{
"acknowledged" : true,
"shards_acknowledged" : true,
"index" : "dm"
}
相当于是省去了elasticsearch的服务器地址
而且还有语法提示,非常舒服。
2.3.查看索引设置
语法
Get请求可以帮我们查看索引信息,格式:
GET /索引库名
GET /dm
{
"dm" : {
"aliases" : { },
"mappings" : { },
"settings" : {
"index" : {
"creation_date" : "1578537069508",
"number_of_shards" : "1",
"number_of_replicas" : "1",
"uuid" : "6zWDhh-JTpO8TEYa4DiSBw",
"version" : {
"created" : "7030299"
},
"provided_name" : "dm"
}
}
}
}
或者,我们可以使用*来查询所有索引库配置:
GET *
2.4.删除索引
删除索引使用DELETE请求
语法
DELETE /索引库名
DELETE /dm
结果
{
"acknowledged" : true
}
再次查看:
GET dm
{
"error" : {
"root_cause" : [
{
"type" : "index_not_found_exception",
"reason" : "no such index [dm]",
"resource.type" : "index_or_alias",
"resource.id" : "dm",
"index_uuid" : "_na_",
"index" : "dm"
}
],
"type" : "index_not_found_exception",
"reason" : "no such index [dm]",
"resource.type" : "index_or_alias",
"resource.id" : "dm",
"index_uuid" : "_na_",
"index" : "dm"
},
"status" : 404
}
当然,我们也可以用HEAD请求,查看索引是否存在:
HEAD dm
2.5.映射配置
索引有了,接下来肯定是添加数据。但是,在添加数据之前必须定义映射。
什么是映射?
映射是定义文档的过程,文档包含哪些字段,这些字段是否保存,是否索引,是否分词等
只有配置清楚,Elasticsearch才会帮我们进行索引库的创建(不一定)
2.5.1.添加映射字段
语法
请求方式依然是PUT
PUT /索引库名/_mapping
{
"mappings": {
"字段名": {
"type": "类型",
"index": true,
"store": true,
"analyzer": "分词器"
}
}
}
- 类型名称:就是前面将的type的概念,类似于数据库中的不同表
字段名:任意填写 ,可以指定许多属性,例如: - type:类型,可以是text、long、short、date、integer、object等
- index:是否索引,默认为true
- store:是否存储,默认为false
- analyzer:分词器,这里的
ik_max_word
即使用ik分词器
示例
发起请求:
PUT dm/_mapping
{
"properties": {
"title": {
"type": "text",
"analyzer": "ik_max_word"
},
"images": {
"type": "keyword",
"index": "false"
},
"price": {
"type": "float"
}
}
}
响应结果:
{
"acknowledged": true
}
2.5.2.查看映射关系
语法:
GET /索引库名/_mapping
示例:
GET /dm/_mapping
响应:
{
"dm" : {
"mappings" : {
"properties" : {
"images" : {
"type" : "keyword",
"index" : false
},
"price" : {
"type" : "float"
},
"title" : {
"type" : "text",
"analyzer" : "ik_max_word"
}
}
}
}
}
2.5.3.字段属性详解
2.5.3.1.type
Elasticsearch中支持的数据类型非常丰富
我们说几个关键的:
-
String类型,又分两种:
- text:可分词,不可参与聚合
- keyword:不可分词,数据会作为完整字段进行匹配,可以参与聚合
-
Numerical:数值类型,分两类
- 基本数据类型:long、interger、short、byte、double、float、half_float
- 浮点数的高精度类型:scaled_float
- 需要指定一个精度因子,比如10或100。elasticsearch会把真实值乘以这个因子后存储,取出时再还原。
-
Date:日期类型
elasticsearch可以对日期格式化为字符串存储,但是建议我们存储为毫秒值,存储为long,节省空间。
2.5.3.2.index
index影响字段的索引情况。
- true:字段会被索引,则可以用来进行搜索。默认值就是true
- false:字段不会被索引,不能用来搜索
index的默认值就是true,也就是说你不进行任何配置,所有字段都会被索引。
但是有些字段是我们不希望被索引的,比如商品的图片信息,就需要手动设置index为false。
2.5.3.3.store
是否将数据进行额外存储。
在以前使用solr时,我们知道如果一个字段的store设置为false,那么在文档列表中就不会有这个字段的值,用户的搜索结果中不会显示出来。
但是在Elasticsearch中,即便store设置为false,也可以搜索到结果。
原因是Elasticsearch在创建文档索引时,会将文档中的原始数据备份,保存到一个叫做_source
的属性中。而且我们可以通过过滤_source
来选择哪些要显示,哪些不显示。
而如果设置store为true,就会在_source
以外额外存储一份数据,多余,因此一般我们都会将store设置为false,事实上,store的默认值就是false。
2.6.新增数据
2.6.1.随机生成id
通过POST请求,可以向一个已经存在的索引库中添加数据。
语法:
POST /索引库名/_doc
{
"key":"value"
}
示例:
POST /dm/_doc
{
"title":"华为手机",
"images":"http://image.huawei.com/12479122.jpg",
"price":3999.00
}
通过kibana查看数据:
get /索引库名/_search
{
"query":{
"match_all":{
}
}
}
{
"took" : 532,
"timed_out" : false,
"_shards" : {
"total" : 1,
"successful" : 1,
"skipped" : 0,
"failed" : 0
},
"hits" : {
"total" : {
"value" : 1,
"relation" : "eq"
},
"max_score" : 1.0,
"hits" : [
{
"_index" : "dm",
"_type" : "_doc",
"_id" : "98jUiG8BDU5dENzysUgJ",
"_score" : 1.0,
"_source" : {
"title" : "华为手机",
"images" : "http://image.huawei.com/12479122.jpg",
"price" : 3999.0
}
}
]
}
}
_source
:源文档信息,所有的数据都在里面。_id
:这条文档的唯一标示,与文档自己的id字段没有关联
2.6.2.自定义id
如果我们想要自己新增的时候指定id,可以这么做:
POST /索引库名/_doc/id值
{
...
}
示例:
POST /dm/_doc/2
{
"title":"VIVO手机",
"images":"http://image.vivo.com/12479122.jpg",
"price":2999.00
}
得到的数据:
{
"_index" : "dm",
"_type" : "_doc",
"_id" : "2",
"_version" : 1,
"result" : "created",
"_shards" : {
"total" : 1,
"successful" : 1,
"failed" : 0
}