内部表和外部表
hive的表分为内部表(管理表)和外部表(托管表),对于外部表,在创建的时候,需要加上EXTERNAL关键字,不使用EXTERNAL关键字创建的表为内部表:
create EXTERNAL table IF NOT EXISTS bhive.people
(
id string COMMENT 'student id', //字段描述
name string ,
sex string
)
COMMENT 'student table' //表的描述
ROW FORMAT DELIMITED FIELDS TERMINATED BY ' ' //从文件中将数据导入数据表的时候,文件中的数据每行各个字段之间的分隔符
STORED AS TEXTFILE //从文件中获取数据时,指定文件所属的类型(默认是文本文件,企业开发一般使用ORC和PARQUET)
LOCATION /user/hive/warehouse/bhive/people; //指定数据表在hdfs文件系统中的存储的位置
现在假设hive表的元数据信息存储在mysql数据库中,不管是内部表和外部表,在表的创建的时候,将会在mysql数据库中存储hive表的元数据信息,在hdfs文件系统中存储真正的数据信息。
对于内部表来说,如果删除创建的hive表时,此时会将mysql数据库中的元数据信息删除的同时也会将hdfs文件系统中的真正的数据信息删除。
对于外部表来说,删除创建的hive、表的时候,只会删除mysql数据库中的元数据信息,不会删除hdfs文件系统中的真正的数据信息。
分区表
分区表就是在创建的时候使用PARTITIONED BY指定表的分区,所谓分区,就是在hdfs文件系统中的相应的目录下创建相应的分区目录。在查询时候通过where子句中条件指定相应的分区。
//创建分区表
create table IF NOT EXISTS bhive.people
(
name string ,
sex string
)
PARTITIONED BY (col_name data_type, ...... );
//加载数据
load data local inpath '/path' into table table_name partition (part_name = 'part_name');
//查询分区数据
select * from table_name where part_name = 'part_name';
注意:在加载数据的时候需要指定将数据加载到那个分区下,此时加载数据的时候会自动创建分区目录。
如果在加载数据之前在相应的目录下创建分区目录,如果将数据上传到相应的分区目录下,此时查询将会无法查询到数据。
原因是,自动创建的分区,在mysql数据库的元数据信息中将会添加分区的元数据信息,而手动创建的分区,分区的元数据信息将不会保存到mysql数据库中。此时通过以下操作可以解决:
(1)方式一:修复表
msck repair table table_name
(2)方式二:为指定的表添加分区
alert table dept_name add partition(part_name = 'part_name');