大讲台谈Hive常见的问题及解决方案(二)
本文中所涉及到的问题均来自大讲台Hadoop学员的提问,下面是具体问题描述及解决方案,希望对正在学hadoop的学子有所帮助
问题1:hive 中如何处理外部文件中的字段值被双引号包围?
问题描述:现有外部文本文件,字段间以逗号分隔,每个字段被双引号包住,在创表的时候指定什么存储方式可以让hive在读数据时将双引号不读出来:
外部文本格式:
“111”,"zhangsan","23"
“112”,"lisi","26"
希望在hive的表中显示的时候
111 zhansan 23
112 lisi 26
解决方案:根据你给出的外部文本格式数据,当hive将外部数据导入表中的时候,无法直接实现你所需要的结果。
可以通过两个步骤来完成:
第一步:
通过FIELDS TERMINATED BY',' 字段分割,将外部文本数据导入比如test_tmp表中,过渡数据显示如下:
“111”"zhangsan" "23"
“112”"lisi" "26"
第二步:
通过内部函数或者自定义函数,将test_tmp表中的数据导入你需要的表比如test,这时test表就是你所需要的数据。最终数据显示如下:
111 zhansan 23