java跑批发邮件_sh调取sqoop脚本每天增量跑数据 从hadoop到关系型数据库

sh中调取sqoop每天增量懂啊关系型数据库中,看看吧

#!/bin/bash

source ~/.bashrc

set -x

DAY=`date -d "$1 days ago" +%y-%m-%d`

DAYI=`date -d "$1 days ago" +%Y%m%d`

APPHOME="/opt/pig_home/bshare_etl/hdetl/app/pv_placement/"

PROG=`basename $0`

MAIL="dba@i-click.com"

EXPORT="/shortdata/pv_placement/15-10-01"

USER="xmo_summarizer"

PWD="YCt452uz"

URL="jdbc:postgresql://10.1.1.230:5432/xmo_dw"

sqoop eval --connect ${URL} --username ${USER} --password ${PWD} -e "delete from bshare_placement where date_i=${DAY}"

sqoop export --connect ${URL} --username ${USER} --password ${PWD} --export-dir ${EXPORT} --table bshare_placement --fields-terminated-by '\001' --input-null-non-string '\\N' --input-null-string '\\N' --columns date_i,adx,city,province,placement_id,pv -- --schema xmo_dw

#sqoop export --connect 'jdbc:postgresql://10.1.1.230:5432/xmo_dw' --username 'mo_summarizer' --password 'YCt452uz' --export-dir '/shortdata/pv_placement/15-10-01' --table bshare_placement --fields-terminated-by '\001' --input-null-non-string '\\N' --input-null-string '\\N' --columns date_i,adx,city,province,placement_id,pv -- --schema xmo_dw

sqoop list-databases --connect "jdbc:postgresql://10.1.1.230:5432/xmo_dw" --username 'xmo_summarizer' --password 'YCt452uz'

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值