ElasticSearch简介
Elasticsearch是用Java开发并且是当前最流行的开源的企业级搜索引擎。
能够达到实时搜索,稳定,可靠,快速,安装使用方便。
客户端支持Java、.NET(C#)、PHP、Python、Ruby等多种语言。
官方网站: https://www.elastic.co/
下载地址:https://www.elastic.co/cn/start
对比Lucene
Lucene可以被认为是迄今为止最先进、性能最好的、功能最全的搜索引擎库(框架)
但是想要使用Lucene,必须使用Java来作为开发语言并将其直接集成到你的应用中,并且Lucene的配置及使用非常复杂,你需要深入了解检索的相关知识来理解它是如何工作的。
Lucene缺点:
1)只能在Java项目中使用,并且要以jar包的方式直接集成项目中.
2)使用非常复杂-创建索引和搜索索引代码繁杂
3)不支持集群环境-索引数据不同步(不支持大型项目)
4)索引数据如果太多就不行,索引库和应用所在同一个服务器,共同占用硬盘.共用空间少.
上述Lucene框架中的缺点,ES全部都能解决.
对比关系型数据库
关系型数据库 | 数据库 Database | Schema DDL | 表 Table | 数据行 Row | 数据字段 Column |
Elasticsearch | 索引库 Index | 文档映射 Mapping | 类型 Type | 文档 Document | 文档字段 Field |
Elasticsearch中的核心概念
索引 index (索引库)
一个索引就是一个拥有几分相似特征的文档的集合。比如说,可以有一个客户数据的索引,另一个产品目录的索引,还有一个订单数据的索引
一个索引由一个名字来标识(必须全部是小写字母的),并且当我们要对对应于这个索引中的文档进行索引、搜索、更新和删除的时候,都要使用到这个名字
#========================
# 1、创建索引:es_test_db
PUT es_test_db
# 执行结果为:
{
"acknowledged" : true,
"shards_acknowledged" : true,
"index" : "es_test_db"
}
#========================
# 2、查询索引:es_test_db
GET es_test_db
# 执行结果为:
{
"es_test_db" : {
"aliases" : { },
"mappings" : { },
"settings" : {
"index" : {
"routing" : {
"allocation" : {
"include" : {
"_tier_preference" : "data_content"
}
}
},
"number_of_shards" : "1",
"provided_name" : "es_test_db",
"creation_date" : "1634608397630",
"number_of_replicas" : "1",
"uuid" : "WOECP1nwSVmiVLyZiuCE7g",
"version" : {
"created" : "7130299"
}
}
}
}
}
#========================
# 3、删除索引:es_test_db
DELETE es_test_db
# 执行结果为:
{
"acknowledged" : true
}
映射 mapping
ElasticSearch中的映射(Mapping)用来定义一个文档
mapping是处理数据的方式和规则方面做一些限制,如某个字段的数据类型、默认值、分词器、是否被索引等等,这些都是映射里面可以设置的。
ES中映射可以分为动态映射和静态映射
动态映射:
在关系数据库中,需要事先创建数据库,然后在该数据库下创建数据表,并创建表字段、类型、长度、主键等,最后才能基于表插入数据。
而Elasticsearch中不需要定义Mapping映射(类比:如关系型数据库的表、字段等),在文档写入Elasticsearch时,会根据文档字段自动识别类型,这种机制称之为动态映射。
动态映射规则如下:
Json数据 | 动态映射的类型(自动识别) |
null | 没有字段被添加 |
true | false | boolean |
小数 | float |
数字 | long |
日期 | date | text |
字符串 | text |
数组 | 由数组中第一个非空值类型决定 |
Json对象 | object |
#============
# 1、创建索引
PUT es_test_db
# 2、新增文档
PUT /es_test_db/_doc/1
{
"name":"张三",
"age":1,
"birthday":"2021-10-10",
"address":"中国上海长宁"
}
# 3、获取索引的映射mapping
GET /es_test_db/_mapping
# 执行结果如下:
{
"es_test_db" : {
"mappings" : {
"properties" : {
"address" : {
"type" : "text",
"fields" : {
"keyword" : {
"type" : "keyword",
"ignore_above" : 256
}
}
},
"age" : {
"type" : "long"
},
"birthday" : {
"type" : "date"
},
"name" : {
"type" : "text",
"fields" : {
"keyword" : {
"type" : "keyword",
"ignore_above" : 256
}
}
}
}
}
}
}
静态映射:
静态映射是在Elasticsearch中可以事先定义好映射,包含文档的各字段类型、分词器等,这种方式称之为静态映射。
# ===========
# 1、创建索引并设置文档映射mapping
PUT /es_test_db
{
"mappings": {
"properties": {
"name": {
"type": "text",
"index": true,
"store": true
},
"age": {
"type": "integer",
"index": true,
"store": true
},
"birthday": {
"type": "date",
"index": true,
"store": true
},
"address": {
"type": "text",
"index": true,
"store": true
}
}
}
}
# 2、查看映射mapping
GET /es_test_db/_mapping
# 3、插入文档,设置age的值为非 Integer
PUT /es_test_db/_doc/1
{
"name":"张三",
"age":"abc",
"birthday":"2021-10-10",
"address":"中国上海长宁"
}
# 执行结果为:
{
"error" : {
"root_cause" : [
{
"type" : "mapper_parsing_exception",
"reason" : "failed to parse field [age] of type [integer] in document with id '1'. Preview of field's value: 'abc'"
}
],
"type" : "mapper_parsing_exception",
"reason" : "failed to parse field [age] of type [integer] in document with id '1'. Preview of field's value: 'abc'",
"caused_by" : {
"type" : "number_format_exception",
"reason" : "For input string: \"abc\""
}
},
"status" : 400
}
# 4、插入文档,插入一个正确的
PUT /es_test_db/_doc/2
{
"name":"张三",
"age":12,
"birthday":"2021-10-10",
"address":"中国上海长宁"
}
# 执行结果为:
{
"_index" : "es_test_db",
"_type" : "_doc",
"_id" : "2",
"_version" : 1,
"result" : "created",
"_shards" : {
"total" : 2,
"successful" : 1,
"failed" : 0
},
"_seq_no" : 0,
"_primary_term" : 1
}
Type
在ElasticSearch7.X之后了,统type为_doc: _type:_doc
文档 document
一个文档是一个可被索引的基础信息单元,类似一条记录。文档以JSON(Javascript Object Notation)格式来表示;
# ===================
# 1、创建索引
PUT es_test_db
# 2、新增文档
PUT /es_test_db/_doc/1
{
"name":"张三1",
"age":1,
"birthday":"2021-10-11",
"address":"中国上海长宁1"
}
# 3、获取文档
GET /es_test_db/_doc/1
字段类型 Type
每一个字段都应该有一个对应的类型,例如:Text、Keyword、Byte等.
ElasticSearch中的核心类型有:
1、字符串:string,string类型包含 text 和 keyword。
text:该类型被用来索引长文本,在创建索引前会将这些文本进行分词,转化为词的组合,建立索引;允许es来检索这些词,text类型不能用来排序和聚合。(能模糊查询, 能分词查询,不能聚合、排序)
keyword:该类型不能分词,可以被用来检索过滤、排序和聚合,keyword类型不可用text进行分词模糊检索。(只能精准查询, 不能分词查询,能聚合、排序)
2、数值型:long、integer、short、byte、double、float
3、日期型:date
4、布尔型:boolean
集群 cluster
一个集群就是由一个或多个节点组织在一起,它们共同持有整个的数据,并一起提供索引和搜索功能
节点 node
一个节点是集群中的一个服务器,作为集群的一部分,它存储数据,参与集群的索引和搜索功能
一个节点可以通过配置集群名称的方式来加入一个指定的集群。默认情况下,每个节点都会被安排加入到一个叫做“elasticsearch”的集群中
这意味着,如果在网络中启动了若干个节点,并假定它们能够相互发现彼此,它们将会自动地形成并加入到一个叫做“elasticsearch”的集群中
在一个集群里,可以拥有任意多个节点。而且,如果当前网络中没有运行任何Elasticsearch节点,这时启动一个节点,会默认创建并加入一个叫做“elasticsearch”的集群。
分片
一个索引可以存储超出单个结点硬件限制的大量数据。比如,一个具有10亿文档的索引占据1TB的磁盘空间,而任一节点都没有这样大的磁盘空间;或者单个节点处理搜索请求,响应太慢为了解决这个问题,Elasticsearch提供了将索引划分成多份的能力,这些份就叫做分片。
当创建一个索引的时候,可以指定你想要的分片的数量,每个分片本身也是一个功能完善并且独立的“索引”,这个“索引”可以被放置到集群中的任何节点上。
分片很重要,主要有两方面的原因:
1、允许水平分割/扩展你的内容容量。
2、允许在分片之上进行分布式的、并行的操作,进而提高性能/吞吐量
至于一个分片怎样分布,它的文档怎样聚合回搜索请求,是完全由Elasticsearch管理的,对于作为用户来说,这些都是透明的。
副本
在一个网络/云的环境里,失败随时都可能发生,在某个分片/节点不知怎么的就处于离线状态,或者由于任何原因消失了,这种情况下,有一个故障转移机制是非常有用并且是强烈推荐的。为此目的,Elasticsearch允许你创建分片的一份或多份拷贝,这些拷贝叫做副本分片,或者直接叫副本
副本之所以重要,有两个主要原因
1、在分片/节点失败的情况下,提供了高可用性。注意到复制分片从不与原/主要(original/primary)分片置于同一节点上是非常重要的
2、扩展搜索量/吞吐量,因为搜索可以在所有的副本上并行运行
每个索引可以被分成多个分片。一个索引有0个或者多个副本
一旦设置了副本,每个索引就有了主分片和副本分片,分片和副本的数量可以在索引
创建的时候指定,在索引创建之后,可以在任何时候动态地改变副本的数量,但是不能改变分片的数量