1. 类型判定
ElasticSearch在创建index的时候是可以不指定schema的,那么它是怎么知道你使用的是什么类型呢?实际上它是通过给定 document的json来判定的,例如,string的话是用引号引起来的,数字是光溜溜的,boolean类型是true或者false等等。这个 规则非常的简单,但是非常有效。例如有如下的json:
{ "field1": "hello", "field2": 1024 }
ES能够很容易判定field1为string类型,field2为数字类型,但是有些情况下,需要把所有的格式都存为string,true和 false就不行了,因为ES会优先将其存为boolean类型,这就需要我们手动指定schema,另外一个问题是,如果我们对某个index首次插入 数据的时候为某个field插入了一个数字类型,例如:
curl -XPUT localhost:9200/blog/article/1?pretty -d '{ "field1" : 1024}'
我们可以查看其mapping:
curl -XGET localhost:9200/blog/_mapping?pretty
我们可以看到其schem如下:
{ "blog" : {
"article" : {
"properties" : {
"field1" : {
"type" : "long",
"ignore_malformed" : false
}
}
}
}
}
这说明ES已经将该字段的类型定义为long了,然后如果我们插入string,那么就会报错,说类型不匹配:
curl -XPUT localhost:9200/blog/article/2?pretty -d '{
"field1" : "test string"
}'
返回结果为:
{ "error" : "MapperParsingException[Failed to parse [field1]];
nested: NumberFormatException[For input string:
\"test string\"]; ", "status" : 400 }
但是,如果继续插入float型数据是可以的,因为long可以转换为float,如下:
curl -XPUT localhost:9200/blog/article/2?pretty -d '{
"field1" : 3.14
}'
这时,我们在查看schema,可以看到ES将schema修改了。这就会对我们的数据精度造成影响,为了防止这种情况,或者为了防止已经存在的index添加字段,我们可以将动态schema关闭,如下:
{ "blog" : { "article" : { "dynamic" : "false", "properties" : { ... } } } }
2.动态mapping
有时,我们需要通过json中的field和type来决定我们使用的mapping,这时,动态templates就派上用场了。动态 templates和普通的mapping类似,它有一个自己的模式,如果一个field的名字匹配了该模式,该template就会使用,下面是定义模 式的两种手段:
match: template在field名匹配的时候起用。
unmatch: template在field名不匹配的时候起用。
当然,也可以使用path_match和path_unmatch对嵌套field使用。
定义field的使用可以使用
{name}: document最初写入数据的field的名字。
{dynamic_type}: document最初写入数据的field的type。
需要提醒的是,ES是按照你写的templates的顺序来匹配的,因此,匹配范围越广的应该放在越后,不然就会将所有后面的正则拦掉了。例如*应该放在最后:
{ "mappings" : { "article" : { "dynamic_templates" : [ { "template_test": { "match" : "*", "mapping" : { "type" : "multi_field", "fields" : { "{name}": { "type" : "{dynamic_type}"}, "str": {"type" : "string"} } } } }] } } }
例如我在logstash的日志发现了一个错误,如下
"response"=>"-"
"error"=>"MapperParsingException[failed to parse [response];
nested: NumberFormatException[For input string: \"-\"; "
,这是因为我之前在mapping中定义了response为long类型,现在写入的数据中出现了response=> "-",导致报错类型不匹配。
{
"dynamic_templates" : [ {
"response_fields": {
"match" : "*",
"mapping" : {
"type" : "multi_field",
"fields" : {
"response": { "type" : "long"}, "str": {"type" : "string"}
}
}
}
}
}
文章原链:http://www.dengchuanhua.com/
转载于:https://blog.51cto.com/heqin/1884607