3.sqoop过滤数据导入hive表(where和query条件)

1.导入表数据子集到hdfs(可以改成导入到hive,举一反三)

  • 导入表使用Sqoop导入工具,"where"子句的一个子集。它执行在各自的数据库服务器相应的SQL查询,并将结果存储在HDFS的目标目录。

  • 按照条件进行查找,通过--where参数来查找表emp当中dept字段的值为 TP 的所有数据导入到hdfs上面去

sqoop import \
--connect jdbc:mysql://node2:3306/userdb \
--username root --password 123456 --table emp \
--target-dir /sqoop/emp_where -m 1  --delete-target-dir \
--where "dept = 'TP'"

提交查看HDFS上的目录看是否有数据生成

2.sql语句查找导入hdfs(可以到到hive,自己尝试)

我们还可以通过 –query参数来指定我们的sql语句,通过sql语句来过滤我们的数据进行导入

sqoop import \
--connect jdbc:mysql://
  • 0
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
要将数据Sqoop导入Hive,可以按照以下步骤进行操作: 1. 使用Sqoop导入命令,通过`--target-dir`参数指定HDFS目录,将数据导入到HDFS中。\[1\] 2. 在Hive中创建,可以使用Hive的DDL语句来定义结构和字段类型。 3. 使用Hive的`LOAD DATA INPATH`命令,将HDFS中的数据移动到Hive中。 需要注意的是,如果在Sqoop的查询语句中使用了`--query`选项,必须包含`$CONDITIONS`作为WHERE子句的一部分,否则会报错。\[2\] 此外,还可以使用HCatalog方式将数据Sqoop导入Hive。HCatalog方式与Sqoop方式的参数基本相同,只是个别参数有所不同。HCatalog支持更多的数据格式,例如ORC格式的。\[3\] #### 引用[.reference_title] - *1* [sqoop 导入 hive](https://blog.csdn.net/mn_kw/article/details/90602320)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insertT0,239^v3^insert_chatgpt"}} ] [.reference_item] - *2* *3* [Sqoop导入数据数据Hive的两种方式](https://blog.csdn.net/gxd520/article/details/100152072)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insertT0,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值