Hive之分区表与实战

1：分区表的原因

        如果hive当中所有的数据都存入到一个文件夹下面，那么在使用MR计算程序的时候，读取一整个目录下面的所有文件来进行计算，就会变得特别慢，因为数据量太大了
        实际工作当中一般都是计算前一天的数据，所以我们只需要将前一天的数据挑出来放到一个文件夹下面即可，专门去计算前一天的数据。
        这样就可以使用hive当中的分区表，通过分文件夹的形式，将每一天的数据都分成为一个文件夹，然后我们计算数据的时候，通过指定前一天的文件夹即可只计算前一天的数据。
        在大数据中，最常用的一种思想就是分治，我们可以把大的文件切割划分成一个个的小的文件，这样每次操作一个小的文件就会很容易了，同样的道理，在hive当中也是支持这种思想的，就是我们可以把大的数据，按照每天，或者每小时进行切分成一个个的小的文件，这样去操作小的文件就会容易得多了。

2：分区表的存储结构

在文件系统上建立文件夹，把表的数据放在不同文件夹下面，加快查询速度。

 3：分区表相关语法

1：创建分区表语法

hive (myhive)> create table score(s_id string, c_id string, s_score int) partitioned by (month string) row format delimited fields terminated by '\t';

2：创建一个表带多个分区

hive (myhive)> create table score2 (s_id string,c_id string, s_score int) partitioned by (year string, month string, day string) row format delimited fields terminated by '\t';

3：加载数据到分区表当中去 

hive (myhive)>load data local inpath '/install/hivedatas/score.csv' into table score partition (month='201806');

4：加载数据到多分区表当中去

hive (myhive)> load data local inpath '/install/hivedatas/score.csv' into table score2 partition(year='2018', month='06', day='01');

5：查看分区

hive (myhive)> show  partitions  score;

6：添加一个分区

hive (myhive)> alter table score add partition(month='201805');

7：同时添加多个分区

        注意：添加分区之后就可以在hdfs文件系统当中看到表下面多了一个文件夹

hive (myhive)> alter table score add partition(month='201804') partition(month = '201803');

8：删除分区

hive (myhive)> alter table score drop partition(month = '201806');

4：分区表实战

1：需求 

        现在有一个文件score.csv文件，里面有三个字段，分别是s_id string, c_id string, s_score int
        字段都是使用 \t进行分割
        存放在集群的这个目录下/scoredatas/day=20180607，这个文件每天都会生成，存放到对应的日期文件夹下面去
        文件别人也需要公用，不能移动
        请创建hive对应的表，并将数据加载到表中，进行数据统计分析，且删除表之后，数据不能删除

2：实现

1：数据准备

2：node03执行以下命令，将数据上传到hdfs上面去

        将我们的score.csv上传到node03服务器的/install/hivedatas目录下，然后将score.csv文件上传到HDFS的/scoredatas/day=20180607目录上         

cd /install/hivedatas/
hdfs dfs -mkdir -p /scoredatas/day=20180607
hdfs dfs -put score.csv /scoredatas/day=20180607/

3：创建外部分区表，并指定文件数据存放目录

hive (myhive)> create external table score4(s_id string, c_id string, s_score int) partitioned by (day string) row format delimited fields terminated by '\t' location '/scoredatas';

4：进行表的修复，说白了就是建立我们表与我们数据文件之间的一个关系映射()

hive (myhive)> msck repair table score4;

5：修复成功之后即可看到数据已经全部加载到表当中去了