查看hive表对应的hdfs文件路径

本文介绍了如何使用Spark SQL的showCreateTable命令查看Hive表的定义,以及在特殊情况下,当使用saveAsTable创建的表无法通过常规方式找到HDFS路径时,如何查阅spark-defaults.conf配置文件,并通过hdfs命令来定位Hive表的实际存储位置。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

1. 一般情形

        一般情形,spark-sql执行show create table xxx.xxx命令,就可以看到hdfs路径:LOCATION

show create table xxx.xxx;

2. 特殊情形

        有些情况,比如spark用saveAsTable方法创建的表,一般情形不适合,查不到hive表对应的hdfs路径。

spark-sql> show create table default.leon_hive_table;
CREATE TABLE `default`.`leon_hive_table` (`advertising_id` STRING, `af_ad` STRING, `af_ad_id` STRING)
USING parquet
OPTIONS (
  `serialization.format` '1'
)

Time taken: 0.051 seconds, Fetched 1 row(s)

        这个时候,要看下spark的配置文件spark-defaults.conf,如下

spark.sql.warehouse.dir /user/hive/warehouse

        用hdfs命令查看,可以看到hive表对应的目录

hdfs dfs -ls /user/hive/warehouse/

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值