Hive表字段类型修改

1.分区表的复制

1.1 使用动态分区插入复制表

A 创建一张和原表一样表结构的复制表

B 通过插入语句(insert overwrite),使用动态分区把数据导入复制表

SET hive.exec.dynamic.partition.mode=nonstrict;
CREATE TABLE table_copy like table_original;
INSERT overwrite TABLE table_copy PARTITION (product_id,period_type,pt)
SELECT city_id,city_name,site,product_id as product_id,period_type as period_type,pt as pt from table_original;

1.2 使用msck修复分区

A 创建一张和原表一样表结构的复制表

B 复制表table_original目录下的hdfs文件到表table_copy

C 使用分区表的msck命令重新生成分区

CREATE TABLE table_copy like table_original;
dfs -cp hdfs://user/hive/warehouse/temp.db/table_original/* hdfs://user/hive/warehouse/temp.db/table_copy/;
msck repair table temp.table_copy;

该方法比使用动态分区速度更快,因为数据的复制是直接使用的hdfs文件,而不是启动MapReduce作业

2.修改下游依赖,修改字段类型

在元数据平台中修改hive表字段类型,需先将下游依赖去掉,才可修改

修改字段时选择【不级联】

级联:旧数据存在无法读取的风险,建议重刷旧数据,对新数据无影响

不级联:新旧数据均能读取,但存在新旧字段不一致的风险

3.旧数据的修复

A 删除需要修复的数据分区

B 使用动态分区,对复制表转换修改字段类型,插入原表

ALTER TABLE table_original drop partition (pt>='20190331000000');
SET hive.exec.dynamic.partition.mode=nonstrict;
INSERT OVERWRITE TABLE table_original
PARTITION (product_id,period_type,pt)
SELECT city_id,city_name,site,cast(location_id as string) location_id,product_id as product_id,period_type as period_type,pt as pt
FROM table_copy where pt between '20190410000000' and '20190425000000'

--------------------------文档信息--------------------------
版权声明:本文为博主原创文章,未经博主允许不得转载
署名(BY) :dkjkls(dkj卡洛斯)
文章出处:http://blog.csdn.net/dkjkls

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值