Hive数据导出到CSV的方法

1. 使用 insert overwrite local directory

insert overwrite local directory '/url/lxb/hive'
row format delimited
fields terminated by ','
select * from table_name limit 100

2. 使用 hive 导出结果

hive -e "set hive.cli.print.header=true; select * from data_table where some_query_conditions" | sed 's/[\t]/,/g'  > hhd.csv

set hive.cli.print.header=true能将表头输出;
sed ‘s/[\t]/,/g’ 将\t替换成,

将shell里打印的内容输出到文件

3. 使用spark

执行spark-shell

val df = spark.sql("select * from test.student3")
df.write.csv("/HDFS目录")
hadoop fs -get /HDFS目录 XXX 

注意这里是 HDFS目录 ,spark会在目录下生成很多小的csv文件,导出后需要使用 cat *.csv > one.csv 来合并

4. 使用beeline

beeline -n hive -u jdbc:hive2://XXXX:10000 --verbose=true --outputformat=csv2 -e "XXXXXXXX" >> XXX.csv




    --outputformat=[table/vertical/csv/tsv/dsv/csv2/tsv2] == 指定输出格式

    --delimiterForDSV="*" '&' 前提(--outputformat=dsv) 指定分隔符 

通过beeline导出HIVE数据至CSV较为稳定。
然后导出的数据编码为utf-8,需要进行转码。
iconv -f UTF-8 -t GBK XXX.csv to XXX_gbk.csv
有时候转GBK会报错,可以选另外两种Excel可以直接打开的编码格式。

  • 5
    点赞
  • 32
    收藏
    觉得还不错? 一键收藏
  • 3
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值