nanyangjx hive数据自动加载脚本

自动加载数据
#!/bin/bash

YESTERDAY=date -d '-1 days' +%Y%m%d
#定义日志数据目录,文件名称是在变化,不能写死
ACCESS_LOG_DIR=/opt/datas/access_logs/$YESTERDAY

定义HIVE_HOME
HIVE_HOME=/opt/modules/cdh/hive-0.13.1-cdh5.3.6

#2018063001.log
for FILE in ls $ACCESS_LOG_DIR

do

DAY=${FILE:0:8}
HOUR=${FILE:8:2}
#echo " ${DAY} -- ${HOUR} "

H I V E H O M E / b i n / h i v e − e " l o a d d a t a l o c a l i n p a t h ′ {HIVE_HOME}/bin/hive -e " load data local inpath ' HIVEHOME/bin/hivee"loaddatalocalinpathACCESS_LOG_DIR/ F I L E ′ i n t o t a b l e l o a d h i v e . l o a d h p a r t i t i o n ( d a t e = ′ FILE' into table load_hive.load_h partition(date=' FILEintotableloadhive.loadhpartition(date={DAY}’,hour=’${HOUR}’) "

done

$HIVE_HOME/bin/hive -e “show partitions load_hive.load_h”

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值