1.分区表的复制
1.1 使用动态分区插入复制表
A 创建一张和原表一样表结构的复制表
B 通过插入语句(insert overwrite),使用动态分区把数据导入复制表
SET hive.exec.dynamic.partition.mode=nonstrict;
CREATE TABLE table_copy like table_original;
INSERT overwrite TABLE table_copy PARTITION (product_id,period_type,pt)
SELECT city_id,city_name,site,product_id as product_id,period_type as period_type,pt as pt from table_original;
1.2 使用msck修复分区
A 创建一张和原表一样表结构的复制表
B 复制表table_original目录下的hdfs文件到表table_copy
C 使用分区表的msck命令重新生成分区
CREATE TABLE table_copy like table_original;
dfs -cp hdfs://user/hive/warehouse/temp.db/table_original/* hdfs://user/hive/warehouse/temp.db/table_copy/;
msck repair table temp.table_copy;
该方法比使用动态分区速度更快,因为数据的复制是直接使用的hdfs文件,而不是启动MapReduce作业
2.修改下游依赖,修改字段类型
在元数据平台中修改hive表字段类型,需先将下游依赖去掉,才可修改
修改字段时选择【不级联】
级联:旧数据存在无法读取的风险,建议重刷旧数据,对新数据无影响
不级联:新旧数据均能读取,但存在新旧字段不一致的风险
3.旧数据的修复
A 删除需要修复的数据分区
B 使用动态分区,对复制表转换修改字段类型,插入原表
ALTER TABLE table_original drop partition (pt>='20190331000000');
SET hive.exec.dynamic.partition.mode=nonstrict;
INSERT OVERWRITE TABLE table_original
PARTITION (product_id,period_type,pt)
SELECT city_id,city_name,site,cast(location_id as string) location_id,product_id as product_id,period_type as period_type,pt as pt
FROM table_copy where pt between '20190410000000' and '20190425000000'
--------------------------文档信息--------------------------
版权声明:本文为博主原创文章,未经博主允许不得转载
署名(BY) :dkjkls(dkj卡洛斯)
文章出处:http://blog.csdn.net/dkjkls