【Hive】Hive元数据库介绍及信息查看

转载@dabokele

在安装Hive时,需要在hive-site.xml文件中配置元数据相关信息。与传统关系型数据库不同的是,hive表中的数据都是保存的HDFS上,也就是说hive中的数据库、表、分区等都可以在HDFS找到对应的文件。这里说到的元数据可以理解成hive中用于保存数据库、表、分区或者表字段等基本属性,以及这些属性与HDFS文件对应关系的一个映射。 
  这些映射关系比较常见的一个场景是保存在mysql数据库中。接下来会分析hive安装时的一些配置信息,以及元数据库中主要表的用途。

一  hive配置

  有关hive的配置都在hive-site.xml文件中。

属性描述默认值
hive.metastore.warehouse.dir指定hive表在hdfs上的存储路径/user/hive/warehouse
javax.jdo.option.ConnectionURL配置元数据的连接URL 
javax.jdo.option.ConnectionUserName元数据库连接用户名 
javax.jdo.option.ConnectionPassword元数据库连接密码 

比如如下的配置:

<property>
  <name>javax.jdo.option.ConnectionURL</name>
  <value>jdbc:mysql://m000:3306/hive</value>
  <description>JDBC connect string for a JDBC metastore</description>
</property>

<property>
  <name>javax.jdo.option.ConnectionUserName</name>
  <value>hiveuser</value>
  <description>username to use against metastore database</description>
</property>

<property>
  <name>javax.jdo.option.ConnectionPassword</name>
  <value>hiveuser</value>
  <description>password to use against metastore database</description>
</property>

  在hive中,默认情况下新建的数据库以及表都位于HDFS的hive.metastore.warehouse.dir路径下。如下图分别显示了数据库,表,以及表文件在HDFS上的文件路径 
  这里写图片描述
  根据javax.jdo.option.ConnectionURL中设置的数据库,以及用户名和密码,hive就可以写入和读取其元数据信息。 
  连接元数据库除了配置URL,username,password之外,还有一种间接的方式。可以在hive客户端A上用hive --service metastore启动一个metastore服务,然后在另外一个hive客户端B的hive-site.xml文件中配置hive.metastore.uris=thrift://A:9083也可以访问到元数据信息(9083端口为默认,可使用-p参数手动指定)。

二  元数据库表描述

  这一节描述hive元数据库中比较重要的一些表的作用,随着后续对hive的使用逐渐补充更多的内容。 
mysql元数据库hive中的表:

表名作用
BUCKETING_COLS存储bucket字段信息,通过SD_ID与其他表关联
CDS表示该分区、表存储的字段信息。一个字段CD_ID,与SDS表关联
COLUMNS_V2表示该分区、表存储的字段信息。存储字段信息,通过CD_ID与其他表关联
DATABASE_PARAMS描述数据库的属性信息
DBS存储hive的database信息
DB_PRIVS描述数据库的权限信息
DELETEME1410257703262
FUNCS记录用户子集编写的函数信息,包括函数名、对应类名、创建者信息等
FUNC_RU记录自定义函数所在文件的路径
GLOBAL_PRIVS全局变量,与表无关
IDXSHive中索引的信息
INDEX_PARAMS
PARTITIONS分区信息,SD_ID, TBL_ID关联
PARTITION_KEYS存储分区字段列,TBL_ID关联
PARTITION_KEY_VALS分区的值,通过PART_ID关联。与PARTITION_KEYS共用同一个字段INTEGER_IDX来标示不同的分区字段。
PARTITION_PARAMS存储某分区相关信息,包括文件数,文件大小,记录条数等。通过PART_ID关联
PART_COL_PRIVS分区列的授权信息
PART_COL_STATS分区中列的统计信息
PART_PRIVS
ROLES角色表,和GLOBAL_PRIVS配合,与表无关
SDS存储输入输出format等信息,包括表的format和分区的format。关联字段CD_ID,SERDE_ID
SD_PARAMS
SEQUENCE_TABLE存储sqeuence相关信息,与表无关
SERDES存储序列化反序列化使用的类
SERDE_PARAMS序列化反序列化相关配置信息,通过SERDE_ID关联
SKEWED_COL_NAMES保存表、分区由数据倾斜的列信息,包括列名
SKEWED_COL_VALUE_LOC_MAP
SKEWED_STRING_LIST保存表,分区有数据倾斜的字符串列表和值的信息
SKEWED_STRING_LIST_VALUES保存表,分区有数据倾斜的字符串列表和值的信息
SKEWED_VALUES保存表、分区倾斜列对应的本地文件路径
SORT_COLS排序字段,包括列名和排序方式。通过SD_ID关联
TABLE_PARAMS表相关信息,是否外部表,通过TBL_ID关联
TAB_COL_STATS表中列的统计信息,包括数值类型的最大和最小值
TBLS存储表信息,关联字段DB_ID,SD_ID,
TBL_COL_PRIVS表或视图中列的授权信息,包括授权用户、被授权用户和授权的权限等
TBL_PRIVS表赋权限相关信息,通过TBL_ID关联
VERSION版本
VERSION_copy版本,通过VER_ID关联

  这里补充介绍hive的一个工具脚本metatool。如果需要大量修改元数据库中的相关记录,可以具体查看metatool脚本的使用方法。 
  比如说,对一个HDFS做HA的时候,如果之前hdfs完整路径是hdfs://m000,做完HA之后把dfs.nameservices设置为my-cluster之后,hdfs的访问路径就变成了hdfs://my-cluster,此时就需要对hive元数据库中所有记录作更新,这时可以参考下面的操作, 
使用metatool脚本,先是新路径,然后是旧路径 
/usr/local/bigdata/hive/bin/metatool -updateLocation hdfs://my-cluster hdfs://m00

参考:https://www.cnblogs.com/qingyunzong/p/8710356.html#_label3

  • 7
    点赞
  • 45
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值