记录一次解决问题思路,解析Hivesql的工具
一、背景:
有两个建表语句的HiveSql
1.一个是创建Hive表时使用的HiveSql,当然包含partion
CREATE EXTERNAL TABLE IF NOT EXISTS
s
.ao
(\n" +
“\tdate
String COMMENT ‘日期’,\n” +
“\tisManaged
boolean COMMENT ‘是否代管’,\n” +
“\tisLocal
boolean COMMENT ‘是否本地’\n” +
“\t\n” +
“\t)\n” +
“\t\n” +
“PARTITIONED BY (dt
STRING COMMENT ‘日期’)\n” +
“ROW FORMAT DELIMITED FIELDS TERMINATED BY ‘\t’\n” +
"LOCATION ‘/opt/ao’
2.另外一个是查询Hive表结构时查询出的HiveSql,(查询语句:show create table s.ao)
CREATE EXTERNAL TABLE
s
.ao
(\n" +
"mm
string COMMENT ‘密码’, \n" +
"name
boolean COMMENT ‘姓名’) \n" +
“PARTITIONED BY (dt
string COMMENT ‘日期’) \n” +
“ROW FORMAT SERDE ‘org.apache.hadoop.hive.serde2.lazy.LazySimpleSerDe’ WITH SERDEPROPERTIES ( ‘field.delim’ = ’ ', ‘serialization.format’ = ’ ’ ) STORED AS INPUTFORMAT ‘org.apache.hadoop.mapred.TextInputFormat’ OUTPUTFORMAT ‘org.apache.hadoop.hive.ql.io.HiveIgnoreKeyTextOutputFormat’ \n” +
"LOCATION ‘/opt/ao’ TBLPROPERTIES ( ‘transient_lastDdlTime’ = ‘1222222222’ )
pom文件
问题出现在哪里呢?
不知道大家发现没有,从hive中反查询出的hive包含了很多的关键字,比如SERDEPROPERTIES等,当我想要对两个hivesql内部的字段进行替换时,问题就发生了,我没办法使用String.replace的方式去进行替换,因为你掌握不好长度,所以,进行hivesql的分析就是一个比较好的选择了。我尝试了大量的解析工具,发现大部分工具都只是对DML语句(数据的增删改查)兼容的比较友好,比如sqlparse等,但是对于hiveSQL的DDL就兼容的不太行了,好多关键字都识别不了。
救星来了!!!
同事给我推荐了这个,阿里的HiveSQL解析工具,超级好用,可以将HiveSql进行分析,并以对象的形式呈现出来,废话不多说,上代码
<dependency>
<groupId>com.alibaba</groupId>
<arti