Sqoop Hive分区表Export到Mysql

Sqoop 如何导出Hive指定分区数据到Mysql

--hcatalog-partition-keys dt \    #hive表的分区字段
--hcatalog-partition-values ${PARTITION} \   #分区的值
#!/bin/bash

# 获取配置文件内容
URL1=${URL1}

# 连接参数
#MYSQL_ADDR="pro-bd-dw.mysql.rds.aliyuncs.com"
MYSQL_ADDR=${URL1}

MYSQL_DB="xxxx"
MYSQL_TABLE="xxxx"

HIVE_DB="xxxx"
HIVE_TABLE="xxxx"

MYSQL_PORT=3306
URL="jdbc:mysql://${MYSQL_ADDR}:${MYSQL_PORT}/${MYSQL_DB}"
USERNAME="xxxxxx"
PASSWORD="xxxxxx"

PARTITION=$(date -d "1 days ago" +%Y-%m-%d)


# 源表|目标表
NUM=1

mysql ${MYSQL_DB} -h ${MYSQL_ADDR} -P ${MYSQL_PORT} -u${USERNAME} -p${PASSWORD} << EOF
truncate table ${MYSQL_TABLE};
EOF

sqoop export \
-Dsqoop.export.records.per.statement=5000 \
--connect $URL \
--username ${USERNAME} \
--password ${PASSWORD} \
--table ${MYSQL_TABLE} \
--hcatalog-database ${HIVE_DB} \
--hcatalog-table ${HIVE_TABLE} \
--columns exchange_date,goods_code,goods_name,sku_id,sku_name,product_id,product_name,cast_price,goods_count,cast_sum \
--hcatalog-partition-keys dt \    #hive表的分区字段
--hcatalog-partition-values ${PARTITION} \   #分区的值
-m ${NUM}
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

文文鑫

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值