1. 类型判定

ElasticSearch在创建index的时候是可以不指定schema的,那么它是怎么知道你使用的是什么类型呢?实际上它是通过给定 document的json来判定的,例如,string的话是用引号引起来的,数字是光溜溜的,boolean类型是true或者false等等。这个 规则非常的简单,但是非常有效。例如有如下的json:

{ "field1": "hello", "field2": 1024 }

ES能够很容易判定field1为string类型,field2为数字类型,但是有些情况下,需要把所有的格式都存为string,true和 false就不行了,因为ES会优先将其存为boolean类型,这就需要我们手动指定schema,另外一个问题是,如果我们对某个index首次插入 数据的时候为某个field插入了一个数字类型,例如:

curl -XPUT localhost:9200/blog/article/1?pretty -d '{ "field1" : 1024}'

我们可以查看其mapping:

curl -XGET localhost:9200/blog/_mapping?pretty

我们可以看到其schem如下:

{ "blog" : { 
   "article" : {
        "properties" : {
            "field1" : {
                "type" : "long",
                "ignore_malformed" : false
               }
           }
       }
   }
}

这说明ES已经将该字段的类型定义为long了,然后如果我们插入string,那么就会报错,说类型不匹配:

curl -XPUT localhost:9200/blog/article/2?pretty -d '{
"field1" : "test string"
}'

返回结果为:

{ "error" : "MapperParsingException[Failed to parse [field1]];
nested: NumberFormatException[For input string:
\"test string\"]; ", "status" : 400 }

但是,如果继续插入float型数据是可以的,因为long可以转换为float,如下:

curl -XPUT localhost:9200/blog/article/2?pretty -d '{
"field1" : 3.14
}'

这时,我们在查看schema,可以看到ES将schema修改了。这就会对我们的数据精度造成影响,为了防止这种情况,或者为了防止已经存在的index添加字段,我们可以将动态schema关闭,如下:

{ "blog" : { "article" : { "dynamic" : "false", "properties" : { ... } } } }

2.动态mapping

有时,我们需要通过json中的field和type来决定我们使用的mapping,这时,动态templates就派上用场了。动态 templates和普通的mapping类似,它有一个自己的模式,如果一个field的名字匹配了该模式,该template就会使用,下面是定义模 式的两种手段:


match: template在field名匹配的时候起用。

unmatch: template在field名不匹配的时候起用。

当然,也可以使用path_match和path_unmatch对嵌套field使用。

定义field的使用可以使用


{name}: document最初写入数据的field的名字。

{dynamic_type}: document最初写入数据的field的type。

需要提醒的是,ES是按照你写的templates的顺序来匹配的,因此,匹配范围越广的应该放在越后,不然就会将所有后面的正则拦掉了。例如*应该放在最后:

{ 
    "mappings" : { 
        "article" : { 
            "dynamic_templates" : [ { 
                "template_test": {
                     "match" : "*", 
                     "mapping" : {
                          "type" : "multi_field",
                          "fields" : { 
                              "{name}": { "type" : "{dynamic_type}"}, 
                              "str": {"type" : "string"} 
                        }
                    } 
                }
            }]
        } 
    } 
}


例如我在logstash的日志发现了一个错误,如下

"response"=>"-"

"error"=>"MapperParsingException[failed to parse [response];

 nested: NumberFormatException[For input string: \"-\"; "


,这是因为我之前在mapping中定义了response为long类型,现在写入的数据中出现了response=> "-",导致报错类型不匹配。

 {
   "dynamic_templates" : [ { 

        "response_fields": {

          "match" : "*",

          "mapping" : {

            "type" : "multi_field",

            "fields" : {

              "response": { "type" : "long"}, "str": {"type" : "string"}

            }

          }

        }

     }

  }



文章原链:http://www.dengchuanhua.com/