sqoop导入数据至hive

最新推荐文章于 2024-02-04 12:25:32 发布

空中的鱼1987

最新推荐文章于 2024-02-04 12:25:32 发布

阅读量1.5k

点赞数

分类专栏： sqoop

本文链接：https://blog.csdn.net/lookqlp/article/details/52096183

版权

本文介绍了如何使用sqoop将数据从PostgreSQL数据库导入到Hive，包括直接导入、创建Hive表、导入已创建的Hive表和使用query导入的方式，并在过程中遇到添加新列数据时的问题及解决方案。

摘要由CSDN通过智能技术生成

使用sqoop导入数据至hive常用语句

    直接导入hive表
     sqoop import --connect jdbc:postgresql://ip/db_name--username user_name --table table_name --hive-import -m 5
    内部执行实际分三部，1.将数据导入hdfs（可在hdfs上找到相应目录），2.创建hive表名相同的表，3，将hdfs上数据传入hive表中
    sqoop根据postgresql表创建hive表
    sqoop create-hive-table --connect jdbc:postgresql://ip/db_name --username user_name --table table_name --hive-table hive_table_name( --hive-partition-key partition_name若需要分区则加入分区名称)
    导入hive已经创建好的表中
    sqoop import --connect jdbc:postgresql://ip/db_name --username user_name --table table_name --hive-import -m 5 --hive-table hive_table_name (--hive-partition-key partition_name --hive-partition-value partititon_value);
    使用query导入hive表
    sqoop import --connect jdbc:postgresql://ip/db_name --username user_name --query "select ,* from retail_tb_order where \$CONDITIONS" --hive-import -m