sqoop导入数据到hive ods层

# !/bin/bash
# 功能:把源数据表加载到hive ods层
# 输入参数据:$1 源数据库 $2 源表名 $3 增全量 $4加载数据日期 $5增量字段1 $6增量字段2 $增量字段3
# 如果是全量 增量字段不需要输入
# $4加载日期如果不输入 则认为是加载昨日数据
# $5,$6,$7 根据实时情况输入
# 例:sh sqoop_mysql_hive_table.sh athletics c_banner i 2017-11-29 end_time start_time create_time


# 开始判断参数据 参数个数


if [ $# -lt 3 ];then
    echo "wrong arg[] number"
    exit 1
fi


#输入数据库名,表名
dbname=$1
tab_name=$2


if [ -z "$dbname" ] || [ -z "$tab_name" ]; then
       echo "The auth info of has not been configured"
        exit 1;
fi


# 判断日期输入 $7


if [  -z "$4" ];then
   yesterday=`date -d yesterday +%Y-%m-%d`
   stat_date=${yesterday}
 else
   stat_date="$4"
fi


"加载数据的日期是:"$stat_date  &>> /disk4/azkaban/logs/sqoopimplog/${stat_date}_${tab_name}.log


# 判断增全量数据 并处理查询条件
if [ "$3" = "a" ];then
    contn=""
  elif [ "$3" = "i" ];then
   #处理增量参数据
    cont0=" WHERE 1=0 "
    if [ -z "$5"  ];then
      echo  $5" is null"
   
  • 1
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值