ES往HIVE倒数据遇到时间格式问题

项目中遇到ES中的时间格式导入HIVE中,出现异常。

今天晚上有空研究了一下Elasticsearch-hadoop 源码,发现HiveValueReader用的是下面这个方法在解析时间字符串

DatatypeConverter.parseDateTime(value)

没有用到ES中我们指定的时间格式。

curl -XPUT 'localhost:9200/myindex?pretty' -H 'Content-Type: application/json' -d'
{
  "mappings": {
    "myindex": { 
      "_all":       { "enabled": false  }, 
      "properties": { 

        "id":  {
          "type":   "keyword" 
        },
        "created":  {
          "type":   "date", 
          "format": "yyyyMMddHHmmssSSS||epoch_millis"
        }
      }
    }
  }
}
'

解决方法:
在HIVE中指定时间格式,并自定义自己的reader.  这里的时间格式是自定义个属性。
  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值