ElasticSearch

ElasticSearch简介

什么是ElasticSearch

EFlaticsearch，简称为es，es是一个开源的高扩展的分布式全文检索引擎，它可以近乎实时的存储、检索数据;本身扩展性很好，可以扩展到上百台服务器，处理PB级别的数据。es也使用Java开发并使用Lucene作为其核心来实现所有索引和搜索的功能，但是它的目的是过简单的RESTful API来隐藏Lucene的复杂性，从而让全文搜索变得简单。

ElasticSearch的使用案例

• 2013年初，GitHub抛弃了Solr，采取ElasticSearch来做PB级的搜索。“GitHub使用ElasticSearch搜索20TB的数据，包括13亿文件和1300亿行代码”

• 维基百科:启动以elasticsearch为基础的核心搜索架构

• Soundcloud: "SoundCloud使用ElasticSearch为1.8亿用户提供即时而精准的音乐搜索服务"

• 百度:百度目前广泛使用ElasticSearch作为文本数据分析，采集百度所有服务器上的各类指标数据及用户自定义数据，通过对各种数据进行多维分析展示，辅助定位分析实例异常或业务层面异常。目前覆盖百度内部20多个业务线(包括casio、云分析、网盟、预测、文库、直达号、钱包、风控等），单集群最大100台机器，200个ES节点，每天导入30TB+数据

• 新浪使用ES 分析处理32亿条实时日志

• 阿里使用ES构建挖财自己的日志采集和分析体系

ElasticSearch对比Solr

• Solr利用Zookeeper进行分布式管理，而Elasticsearch自身带有分布式协调管理功能;. Solr支持更多格式的数据，而Elasticsearch 仅支持json文件格式;

• Solr官方提供的功能更多，而Elasticsearch本身更注重于核心功能，高级功能多有第三方插件提供;. Solr在传统的搜索应用中表现好于Elasticsearch，但在处理实时搜索应用时效率明显低于Elasticsearch

Elasticsearch相关概念(术语)

概述

Elasticsearch是面向文档(document oriented)的，这意味着它可以存储整个对象或文档(document)。然而它不仅仅是存储，还会索引(index)每个文档的内容使之可以被搜索。在Elasticsearch中，你可以对文档(而非成行成列的数据)进行索引、搜索、排序、过滤。Elasticsearch比传统关系型数据库如下:

Relationa1 DB -> Databases -> Tables -> RowS      -> columns
E1asticsearch -> Indices   -> Types  -> Documents -> Fields

Elasticsearch核心概念

1.索引 index

一个索引就是一个拥有几分相似特征的文档的集合。比如说，你可以有一个客户数据的索引，另一个产品目录的索引，还有一个订单数据的索引。一个索引由一个名字来标识（必须全部是小写字母的)，并且当我们要对对应于这个索引中的文档进行索引、搜索、更新和删除的时候，都要使用到这个名字。在一个集群中，可以定义任意多的索引。

2.类型type

在一个索引中，你可以定义一种或多种类型。一个类型是你的索引的一个逻辑上的分类/分区，其语义完全由你来定。通常，会为具有一组共同字段的文档定义一个类型。比如说，我们假设你运营一个博客平台并且将你所有的数据存储到一个索引中。在这个索引中，你可以为用户数据定义一个类型，为博客数据定义另一个类型，当然，也可以为评论数据定义另一个类型。

3.字段Field

相当于是数据表的字段，对文档数据根据不同属性进行的分类标识

4.映射mapping

mapping是处理数据的方式和规则方面做一些限制，如某个字段的数据类型、默认值、分析器、是否被索引等等，这些都是映射里面可以设置的，其它就是处理es里面数据的一些使用规则设置也叫做映射，按着最优规则处理数据对性能提高很大，因此才需要建立映射，并且需要思考如何建立映射才能对性能更好。

5.文档document

一个文档是一个可被索引的基础信息单元。比如，你可以拥有某一个客户的文档，某一个产品的一个文档，当然，也可以拥有某个订单的一个文档。文档以SON(Javascript object Notation)格式来表示，而]SON是一个到处存在的互联网数据交互格式。 在一个indextype里面，你可以存储任意多的文档。注意，尽管一个文档，物理上存在于一个索引之中，文档必须被索引赋予一个索引的type。

6.接近实时NRT

Elasticsearch是一个接近实时的搜索平台。这意味着，从索引一个文档直到这个文档能够被搜索到有一个轻微的延迟(通常是1秒以内)

7.集群cluster

一个集群就是由一个或多个节点组织在一起，它们共同持有整个的数据，并一起提供索引和搜索功能。一个集群由一个唯一的名字标识,这个名字默认就是"elasticsearch”。这个名字是重要的，因为一个节点只能通过指定某个集群的名字，来加入这个集群

8.节点node

一个节点是集群中的一个服务器，作为集群的一部分，它存储数据，参与集群的索引和搜索功能。和集群类似，一个节点也是由一个名字来标识的，默认情况下，这个名字是一个随机的漫威漫画角色的名字，这个名字会在启动的时候赋予节点。这个名字对于管理工作来说挺重要的，因为在这个管理过程中，你会去确定网络中的哪些服务器对应于Elasticsearch集群中的哪些节点。

一个节点可以通过配置集群名称的方式来加入一个指定的集群。默认情况下，每个节点都会被安排加入到一个叫做"elasticsearch"的集群中，这意味着，如果你在你的网络中启动了若干个节点，并假定它们能够相互发现彼此，它们将会自动地形成并加入到一个叫 做"elasticsearch的集群中。

在一个集群里，只要你想，可以拥有任意多个节点。而且，如果当前你的网络中没有运行任何Elasticsearch节点，这时启动一个节点，会默认创建并加入一个叫做"elasticsearch""的集群。

9.分片和复制shards&replicas

一个索引可以存储超出单个结点硬件限制的大量数据。比如，一个具有10亿文档的索引占据1TB的磁盘空间，而任—节点都没有这样大的磁盘空间;或者单个节点处理搜索请求，响应太慢。为了解决这个问题，Elasticsearch提供了将索引划分成多份的能力，这些份就叫做分片。当你创建一个索引的时候，你可以指定你想要的分片的数量。每个分片本身也是一个功能完善并且独立的"索引，这个"索引可以被放置到集群中的任何节点上。分片很重要，主要有两方面的原因:

1. 允许你水平分割/扩展你的内容容量。

2. 允许你在分片(潜在地，位于多个节点上)之上进行分布式的、并行的操作，进而提高性能/吞吐量。

至于一个分片怎样分布，它的文档怎样聚合回搜索请求，是完全由Elasticsearch管理的，对于作为用户的你来说，这些都是透明的。在一个网络/云的环境里，失败随时都可能发生，在某个分片/节点不知怎么的就处于离线状态，或者由于任何原因消失了，这种情况下,有一个故障转移机制是非常有用并且是强烈推荐的。为此目的，Elasticsearch允许你创建分片的一份或多份拷贝，这些拷贝叫做复制分片，或者直接叫复制。

复制之所以重要，有两个主要原因:在分片/节点失败的情况下，提供了高可用性。因为这个原因，注意到复制分片从不与原/主要 (original/primary)分片置于同一节点上是非常重要的。扩展你的搜索量/吞吐量，因为搜索可以在所有的复制上并行运行。总之，每个索引可以被分成多个分片。一个索引也可以被复制0次（意思是没有复制)或多次。一旦复制了，每个索引就有了主分片(作为复制源的原来的分片）和复制分片(主分片的拷贝)之别。分片和复制的数量可以在索引创建的时候指定。在索引创建之后，你可以在任何时候动态地改变复制的数量，但是你事后不能改变分片的数量。

默认情况下，Elasticsearch中的每个索引被分片5个主分片和1个复制，这意味着，如果你的集群中至少有两个节点，你的索引将会有5个主分片和另外5个复制分片(1个完全拷贝)，这样的话每个索引总共就有10个分片。

ElasticSearch 安装

1.采用Docker安装

docker镜像下载

docker pull elasticsearch:5.6.8

安装es容器

docker run -id --name=c_es -p 9200:9200 -p 9300:9300 elasticsearch:5.6.8

9200 端口 - Web管理平台端口 / 9300 - 服务器默认端口

浏览器输入地址访问：http://192.168.199.128:9200/

2.开启远程连接

上面完成安装后，es并不能正常使用，elasticsearch从 5 版本以后默认不开启远程连接，程序直接运行会报错。

我们需要修改es配置，开启远程连接，代码如下：

登录容器

docker exec -it c_es /bin/bash

查看目录结构 输入：dir

root@~:/usr/share/elasticsearch# dir
NOTICE.txt  README.textfile  bin  config  data  lib  logs  modules  plugins

进入config目录

cd config

查看文件

​
root@~:/usr/share/elasticsearch/config# ls
elasticsearch.yml  log4j2.properties  scripts

​

修改elasticsearch.yml文件

root@~:/usr/share/elasticsearch/config# vi elasticsearch.yml
bash: vi: command not found

vi命令无法识别，因为docker容器里面没有该命令，我们可以安装该编译器

设置apt下载源

docker cp ~/sources.list /etc/apt/sources.list

安装vim编辑器

apt-get update
apt-get install vim 

安装结束，修改elasticsearch.yml配置，如图：

vim elasticsearch.yml

修改如下图：

http.host: 0.0.0.0
​
# Uncomment the following lines for a production cluster deployment
transport.host: 0.0.0.0
#discovery .zen. minimum_master_nodes: 1
​
cluster.name: my-application
http.cors.enabled: true
http.cors.allow-origin: "*"
network.host: 192.168.199.128
​

重启docker

docker restart c_es

3.系统参数配置

重启后发现重启启动失败了，这与我们刚才修改的配置有关，因为elasticsearch启动的时候会进行一些检查，比如最多打开的文件的个数以及虚拟内存区域数量等等，如果你放开了此配置，意味着需要打开更多的文件以及虚拟内存，所以我们还需要进行系统调优。

修改vi /etc/security/limits.conf，追加内容（nofile是单个进程允许打开的最大文件个数，soft nofile是软限制，hard nofile是硬限制）

* soft nofile 65536
* hard nofile 65536

修改vi /etc/sysctl.conf，追加内容（限制一个进程可以拥有的VMA(虚拟内存区域)的数量）

vm.max_map_count=655360

执行下面命令，修改内核参数马上生效

sysctl -p

重新启动虚拟机，再次启动容器，发现已经可以启动并远程访问

reboot

4.跨域配置

修改elasticsearch/config下的配置文件：elasticsearch.yml，增加以下三句命令，并重启：

http.cors.enabled: true
http.cors.allow-origin: "*"
network.host: 192.168.199.128

其中：

http.cors.enabled: true：此步为允许elasticsearch跨域访问，默认是false

http.cors.allow-origin：表示跨域访问允许的域名地址（表示任意）

重启

docker restart c_es

提示：如果想让容器重启后开启，可以执行如下命令

docker update --restart=always 容器名称或者容器ID

ElasticSearch 客户端操作

开发中，主要有三种方式可以作为elasticsearch服务的客户端：

• elasticsearch-head插件

• 使用elasticsearch提供的RESTful接口直接访问

• 使用elasticsearch提供的API进行访问

elasticsearch-head

ElasticSearch不同于Solr自带图形化界面，可以通过安装elasticsearch的head插件，完成图形化界面的效果，完成索引数据的查看。安装插件的方式有两种，在线安装和本地安装。本文采用本地安装的方式进行head插件的安装。elasticsearch-5.*以上版本安装head需要安装node和grunt

1. 下载head插件：https://github.com/mobz/elasticsearch-head ，提供elasticsearch-head-master插件压缩包

2. 将elasticsearch-head-master压缩包解压到任意目录，但是要和elasticsearch的安装目录区别开

3. 下载nodejs：下载 | Node.js 中文网 &