hive sql 怎么实现循环_shell 传参实现hive循环跑数

在自动调度系统没有建设成熟的环境里,数据分析师如果要提取历史很长一段时间数据,且代码比较复杂,常规操作需要我们手动执行;但是借助shell传参给hive,可以实现hive自动循环跑数,减少手动执行,大幅提升效率。

以下两段code为例,说明一下跑数时间长度为每天和时间长度为一段时间两种执行情况。

1、跑数时间为每天

start_date=20180101

end_date=20180131

while [[ $start_date < $end_date ]]

do

date=`date -d "$start_date" +"%Y-%m-%d"`

hive -e"

use app;

insert into table app_daren_pc_day_active_user

select dt,browser_uniq_id,user_log_acct

from online_log

where dt='${date}'

group by dt,browser_uniq_id,user_log_acct

;"

echo "$date执行完毕"

start_date=`date -d "+1 day $date" +"%Y-%m-%d"`

done;

2、跑数时间为时间段

start_date=20190301

end_date=20190320

while [[ $star

  • 0
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值