sqoop与PG库导入导出数据

导入数据到Hive

sqoop import --connect jdbc:postgresql://172.66.6.666/radar5g4h --username postgres --password 1234 \
--query " select antenna_model,type,theta,gain from wcnos_antenna_beam where \$CONDITIONS " \
--target-dir table1 --delete-target-dir \
--hive-import --hive-database ott --hive-table table1 \
--null-string '\\N' \
--null-non-string '\\N' \
--fields-terminated-by "," \
-m 1

 

导出数据到PG库

sqoop export --connect jdbc:postgresql://172.66.6.666/radar5g4h --username postgres --password 1234 \
--table table1 \
--export-dir /user/hive/warehouse/ott.db/table1 \
--fields-terminated-by ',' \
--m 1 \
--input-null-string '\\N' --input-null-non-string '\\N'

sqoop到导入数据到PG库时,会通过select * from table 来确定表是否存在,如果不存在则抛出错误。

 

转载于:https://www.cnblogs.com/dtmobile-ksw/p/11156780.html

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Sqoop是一款用于在Hadoop与关系型数据库之间进行数据传输的工具,可以方便地将数据从关系型数据库导入到Hadoop中,也可以将Hadoop中的数据导出到关系型数据库中。下面分别介绍Sqoop导入导出功能: 1. Sqoop数据导入 Sqoop数据导入功能可以将关系型数据库中的数据导入到Hadoop中进行处理和分析。以下是导入数据的步骤: (1)执行以下命令安装Sqoop: ``` sudo apt-get update sudo apt-get install sqoop ``` (2)使用以下命令进行数据导入,其中jdbc-url和username、password分别为数据库的连接地址、用户名和密码,table为需要导入的表名,target-dir为数据导入的目录: ``` sqoop import --connect jdbc:mysql://localhost:3306/test --username root --password 123456 --table student --target-dir /user/hadoop/student ``` 2. Sqoop数据导出 Sqoop数据导出功能可以将Hadoop中的数据导出到关系型数据库中进行存储和处理。以下是导出数据的步骤: (1)执行以下命令进行数据导出,其中jdbc-url和username、password分别为数据库的连接地址、用户名和密码,table为需要导出的表名,export-dir为数据导出的目录: ``` sqoop export --connect jdbc:mysql://localhost:3306/test --username root --password 123456 --table student --export-dir /user/hadoop/student ``` Hive是一种数据工具,可以用于对大规模数据进行处理和分析。Hive可以将结构化的数据映射为一张数据库表,并提供类SQL查询语言对数据进行查询和分析。以下是使用Hive进行数据处理和分析的步骤: (1)启动Hive 在终端中执行以下命令启动Hive: ``` hive ``` (2)创建表 使用Hive的SQL语法创建一个表,例如: ```sql CREATE TABLE student ( id INT, name STRING, age INT ) ROW FORMAT DELIMITED FIELDS TERMINATED BY ',' STORED AS TEXTFILE; ``` (3)导入数据 使用Hive的LOAD DATA语法将数据导入到表中,例如: ```sql LOAD DATA LOCAL INPATH '/home/hadoop/student.txt' INTO TABLE student; ``` (4)查询数据 使用Hive的SELECT语法查询表中的数据,例如: ```sql SELECT * FROM student WHERE age > 18; ``` (5)保存查询结果 使用Hive的INSERT语法将查询结果保存到另一个表中,例如: ```sql INSERT INTO student2 SELECT * FROM student WHERE age > 18; ``` 以上是使用Sqoop进行数据导入导出和使用Hive进行数据处理和分析的基本步骤,具体的操作可以根据实际需求进行调整。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值