kettle连接不上es7_把Hive 数据同步到Elasticsearch7.1.1的过程记录

由于开发工作的需要把数据从Hive导入到Elasticsearch,最开始使用了java写了个程序跑数据,80W的数据跑了2个小时左右,想想1000W数据那得要一天的时间,这效率到一次痛苦一次,就放弃了最初的想法,找到了用了hive的的方法,直接把数据导入到elasticsearch,以下是创建过程。

1,准备工作,准备jar包elasticsearch-hadoop-7.1.1,org.apache.commons.httpclient-3.1.jar

2,在hive中添加jar包。

3,建立一张和es连接的表hiveToEsTable.

1 CREATE EXTERNAL TABLE temp.hiveToEsTable (2 id,3 uscc string,4 remov_dt string,5 lpr_cert_num string,6 cont_tel string,7 license_no string,8 license_item string,9 license_begin_dt string,10 license_end_dt string,11 license_fz_dt string,12 license_certi_stat string,13 remov_reas string,14 KEY string

15 ) STORED BY 'org.elasticsearch.hadoop.hive.EsStorageHandler'TBLPROPERTIES (16 ##es的索引17 'es.resource' = 'es_index',18 ##es的id19 'es.m

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值