es7学习笔记 建表与字段类型(建索引)

39 篇文章 1 订阅
12 篇文章 0 订阅

索引的创建需要配置mappingsetting两部分。

mapping

常用数据类型

text、keyword、number、array、range、boolean、date、geo_point、ip、nested、object。

text默认会进行分词,支持模糊查询(5.x之后版本string类型已废弃,请大家使用text)。

keyword不进行分词,默认开启doc_values来加速聚合排序操作,占用了大量磁盘io 如非必须可以禁用doc_values。

number:如果只有过滤场景 用不到range查询的话,使用keyword性能更佳,另外数字类型的doc_values比字符串更容易压缩。

range对数据的范围进行索引,目前支持 number range、date range 、ip range

arrayes不需要显示定义数组类型,只需要在插入数据时用’[]‘表示即可。[]中的元素类型需保持一致

boolean: 只接受true、false,也可以是字符串类型的“true”、“false”。

date:支持毫秒、根据指定的format解析对应的日期格式,内部以long类型存储

geo_point:存储经纬度数据对。

ip:将ip数据存储在这种数据类型中,方便后期对ip字段的模糊与范围查询。

nested:嵌套类型,一种特殊的object类型,存储object数组,可检索内部子项。

object:嵌套类型,不支持数组。

建个索引

PUT /tvs
{
  "mappings": {
    "properties": {
      "price": {
        "type": "long"
      },
      "color": {
        "type": "keyword"
      },
      "brand": {
        "type": "keyword"
      },
      "sold_date": {
        "type": "date", // 使用date类型时要指定format,否则在使用range查询+时间表达式now/d等时,会特别坑爹
        "format":"yyyyMMdd"
      }
    }
  }
}

其他参数

我工作常用的是

1. type:field的类型。

2. index:该field是否会被索引。

3. analyzer:指定的分词器。

4. doc_values:开启后对聚合入分组或排序有增益,默认开启。

"field": {  
         "type":  "text", //文本类型  ,指定类型
       
         "index": "false"// ,设置成false,字段将不会被索引  
         
         "analyzer":"ik"//指定分词器  
         
         "boost":1.23//字段级别的分数加权  
         
         "doc_values":false//对not_analyzed字段,默认都是开启,analyzed字段不能使用,对排序和聚合能提升较大性能,节约内存,如果您确定不需要对字段进行排序或聚合,或者从script访问字段值,则可以禁用doc值以节省磁盘空间:
         
         "fielddata":{"loading" : "eager" }//Elasticsearch 加载内存 fielddata 的默认行为是 延迟 加载 。 当 Elasticsearch 第一次查询某个字段时,它将会完整加载这个字段所有 Segment 中的倒排索引到内存中,以便于以后的查询能够获取更好的性能。
         
         "fields":{"keyword": {"type": "keyword","ignore_above": 256}} //可以对一个字段提供多种索引模式,同一个字段的值,一个分词,一个不分词  
         
         "ignore_above":100 //超过100个字符的文本,将会被忽略,不被索引
           
         "include_in_all":ture//设置是否此字段包含在_all字段中,默认是true,除非index设置成no选项  
         
         "index_options":"docs"//4个可选参数docs(索引文档号) ,freqs(文档号+词频),positions(文档号+词频+位置,通常用来距离查询),offsets(文档号+词频+位置+偏移量,通常被使用在高亮字段)分词字段默认是position,其他的默认是docs  
         
         "norms":{"enable":true,"loading":"lazy"}//分词字段默认配置,不分词字段:默认{"enable":false},存储长度因子和索引时boost,建议对需要参与评分字段使用 ,会额外增加内存消耗量  
         
         "null_value":"NULL"//设置一些缺失字段的初始化值,只有string可以使用,分词字段的null值也会被分词  
         
         "position_increament_gap":0//影响距离查询或近似查询,可以设置在多值字段的数据上火分词字段上,查询时可指定slop间隔,默认值是100  
         
         "store":false//是否单独设置此字段的是否存储而从_source字段中分离,默认是false,只能搜索,不能获取值  
         
         "search_analyzer":"ik"//设置搜索时的分词器,默认跟ananlyzer是一致的,比如index时用standard+ngram,搜索时用standard用来完成自动提示功能  
         
         "similarity":"BM25"//默认是TF/IDF算法,指定一个字段评分策略,仅仅对字符串型和分词类型有效  
         
         "term_vector":"no"//默认不存储向量信息,支持参数yes(term存储),with_positions(term+位置),with_offsets(term+偏移量),with_positions_offsets(term+位置+偏移量) 对快速高亮fast vector highlighter能提升性能,但开启又会加大索引体积,不适合大数据量用  
       }  

Setting

setting为ES索引的配置属性,索引的配置项按是否可以更改分静态(static)属性动态配置

静态配置即索引创建后不能修改,静态配置只能在创建索引时或者在状态为 closed index的索引(闭合的索引)上设置

下面介绍一下索引的静态配置和动态配置

索引静态配置

index.number_of_shards 主分片数,默认为5。只能在创建索引时设置,不能修改。

index.shard.check_on_startup 是否在索引打开前检查分片是否损坏,当检查到分片损坏将禁止分片被打开。可选值:false:不检测;checksum:只检查物理结构;true:检查物理和逻辑损坏,相对比较耗CPU;fix:类同与false,7.0版本后将废弃。默认值:false。

index.codec 数据存储的压缩算法,默认算法为LZ4,也可以设置成best_compression,best_compression压缩比较好,但存储性能比LZ4差

index.routing_partition_size  路由分区数,默认为 1,只能在索引创建时设置。此值必须小于index.number_of_shards,如果设置了该参数,如果设置了该参数,其路由算法为: (hash(_routing) + hash(_id) % index.routing_parttion_size ) % number_of_shards。如果该值不设置,则路由算法为 hash(_routing) % number_of_shardings,_routing默认值为_id。

PUT /test_setting
{
    "settings": {
        "number_of_shards": "3",
        "number_of_replicas": "1"     
    }
}

索引动态配置

从上到下,是我从常用到不常用的排序。

index.refresh_interval 执行刷新操作的频率,这使得索引的最近更改可以被搜索。默认为 1s。可以设置为 -1 以禁用刷新。

index.max_result_window 用于索引搜索的 from+size 的最大值。默认为 10000。

index.max_docvalue_fields_search 一次查询最多包含开启doc_values字段的个数,默认为100。

index.number_of_replicas 每个主分片的副本数,默认为 1,该值必须大于等于0

index.auto_expand_replicas 基于可用节点的数量自动分配副本数量,默认为 false(即禁用此功能)

index.blocks.read_only 设置为 true 使索引和索引元数据为只读,false 为允许写入和元数据更改。

index.max_rescore_window  在搜索此索引中 rescore 的 window_size 最大值

index.blocks.read_only_allow_delete 与index.blocks.read_only基本类似,唯一的区别是允许删除动作。

index.blocks.write 设置为 true 可禁用对索引的写入操作。
 
index.blocks.read  设置为 true 可禁用对索引的读取操作
 
index.blocks.metadata 设置为 true 可禁用索引元数据的读取和写入。
 
index.max_refresh_listeners 索引的每个分片上可用的最大刷新侦听器数。

对于已存在的索引,我们想要修改它的动态配置,可以使用_settings方法。

PUT  /test_setting/_settings
{
    "number_of_replicas": "0"              
}
  • 1
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值