Sqoop 1 import/export (Mysql)

Sqoop : Hadoop 平台(Hdfs/Hive)与关系型数据库的数据交换/同步工具

官方介绍:Apache Sqoop(TM) is a tool designed for efficiently transferring bulk data between Apache Hadoop and structured datastores such as relational databases.

Sqoop 版本:1.4.6

import :

${SQOOP_HOME}/bin/sqoop import  
                    --connect "jdbc:mysql://%s:3306/%s?characterEncoding=UTF-8&tinyInt1isBit=false"  
                    --username %s 
                    --password '%s' 
                    --hive-database %s 
                    --hive-table %s 
                    --table %s  
                    --lines-terminated-by '\n' 
                    --fields-terminated-by '\001' 
                    --hive-drop-import-delims 
                    --hive-import  
                    --null-string '\\N' 
                    --null-non-string '\\N' 
                    --delete-target-dir 
                    --hive-overwrite 
                    -m 1

说明:

  1. ‘\001’ 为 Hive 默认的字段分隔符
  2. Hive 表自动创建
  3. 当前为覆盖模式

export:

${SQOOP_HOME}/bin/sqoop 
            export --connect 'jdbc:mysql://%s:3306/%s?useUnicode=true&characterEncoding=utf-8' 
            --username %s 
            --password %s 
            --table %s 
            -input-fields-terminated-by '\t' 
            --export-dir %s //hdfs dir of hive table
            --input-null-string '\\N' 
            --input-null-non-string '\\N' 

说明:

  1. 同步前需建好Mysql表
  2. 当前为追加模式

Reference:

  1. http://shiyanjun.cn/archives/624.html
  2. http://www.aboutyun.com/thread-9983-1-1.html
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值