Sqoop抽取数据

#!/bin/bash
:<<EOF
程序运行参数:
1:数据库密码
2:开始日期
3:截止日期

create table Hive数据库名.表名
(
  id      int,
  name string
)
PARTITIONED BY(dt string)
ROW FORMAT DELIMITED;

ALTER TABLE 数据库名.表名 ADD IF NOT EXISTS PARTITION (dt='201810');
EOF

if [ $# -lt 2 ];then
    echo "参数不对:1:数据库密码,2:开始日期,3:截止日期"
    exit;
fi

startdate=`date -d "$2" +%Y%m%d`
enddate=`date -d "$3" +%Y%m%d`

while [[ $startdate < $enddate  ]]
do
    echo $startdate
:<<EOF
    sqoop import \
    --connect jdbc:oracle:thin:@192.168.1.2:3173:数据库 --username 账号--password $1 \
    --query "select 字段 FROM 表 PARTITION (PARTITION${startdate:0:6}) WHERE 1=1 and \$CONDITIONS" \
    --fields-terminated-by "\001" \
    --hive-drop-import-delims \
    --null-string '\\N' \
    --null-non-string '\\N' \
    --delete-target-dir \
    --target-dir /apps/hive/warehouse/数据库.db/表/dt=${startdate:0:6} \
    -m 1
EOF
    startdate=`date -d "+1 month $startdate" +%Y%m%d`
done

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值