hive中导入文件小文件问题

问题描述:
参考https://www.iteblog.com/archives/1533.html

一个表里面每个分区又300个小文件,小文件数量太多,就想把文件导入一个新表每个分区一个文件,这样就是只有map的任务

第一种方式:
SET hive.exec.dynamic.partition=true;
SET hive.exec.dynamic.partition.mode=nonstrict;
set hive.merge.mapfiles = true;//map输出合并,默认开启
set hive.merge.size.per.task = 128000000;//合并而成的文件的大小
set hive.merge.smallfiles.avgsize=50000000;//忘了
insert overwrite table data_mining.two partition (part_dt) select * from data_mining.f_xcf_user_vip_info
WHERE part_dt =‘2017-09-24’

设置map端输出合并,同时设置要合并的文件的大小,这种方法受限,不能很好地把握产生多少个文件,只能自己设置参数过去

第二种方式:
SET mapred.reduce.tasks=1;
SET hive.exec.dynamic.partition=true;
SET hive.exec.dynamic.partition.mode=nonstrict;
INSERT OVERWRITE TABLE data_mining.two PARTITION (part_dt)
SELECT *
FROM data_mining.f_xcf_user_vip_info
WHERE part_dt =‘2017-09-24’
distribute by RAND()
reduce个数通过第一个设置,后面的distribute by 是shuffle中按照什么进入reduce,这样可以凭空造出来reduce步骤从而使得输出的文件只有一个,个数由reduce决定。拓展一下,那这个东西也可以解决数据倾斜的问题咯?

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值