最后
关于面试刷题也是有方法可言的,建议最好是按照专题来进行,然后由基础到高级,由浅入深来,效果会更好。当然,这些内容我也全部整理在一份pdf文档内,分成了以下几大专题:
- Java基础部分
- 算法与编程
- 数据库部分
- 流行的框架与新技术(Spring+SpringCloud+SpringCloudAlibaba)
这份面试文档当然不止这些内容,实际上像JVM、设计模式、ZK、MQ、数据结构等其他部分的面试内容均有涉及,因为文章篇幅,就不全部在这里阐述了。
作为一名程序员,阶段性的学习是必不可少的,而且需要保持一定的持续性,这次在这个阶段内,我对一些重点的知识点进行了系统的复习,一方面巩固了自己的基础,另一方面也提升了自己的知识广度和深度。
在上一篇文章(4 - 教你如何实现 Hive 列权限控制)中详细的讲述了,Spark SQL查询Hive是如何解析库表列信息的。今天笔者通过MLSQL源码演示,是如何使用Druid SQL Parser解析SQL中的表列信息。
Druid SQL Parser分三个模块:
-
Parser:parser是将输入文本转换为ast(抽象语法树),parser有包括两个部分,Parser和Lexer,其中Lexer实现词法分析,Parser实现语法分析;
-
AST:AST是Abstract Syntax Tree的缩写,也就是抽象语法树。AST是parser输出的结果;
-
Visitor:Visitor是遍历AST的手段,是处理AST最方便的模式,Visitor是一个接口,有缺省什么都没做的实现VistorAdapter。
是不是跟第三篇文章(3 - MLSQL DSL-你准备好搞自己的DSL了吗)的Antlr很像啊?
下面以Mysql SQL为例演示MLSQL是如何进行JDBC表列解析的。首先在Mysql的test库下建如下两张表:
create table c5_user(
id varchar(255) ,
name varchar(255)
)
create table c5_country(
id varchar(255) ,
country varchar(255)
)
然后构造测试SQL:
select name ,
country
from c5_user a
left join c5_country b
on a.id = b.id
通过分析,在不确定c5_user和c5_country表结构的情况下,是无法分析出name是属于c5_user还是属于c5_country的。因此要准确判断列归属的表就需要表的schema信息。
下面讲一下MLSQL的处理逻辑:
-
解析传入SQL中的所有表(不支持跨库SQL查询,比如:Hive)
-
根据表,从Mysql库中查询表的schema信息
-
根据表的schema信息构造Druid中SchemaRepository的表信息
-
解析SQL为语法树,通过SchemaVisitor补充schema信息(SchemaRepository),遍历语法树解析出列信息
从MLSQL中提取出如下几个方法:
- 从SQL中解析表,对源码有部分修改
//streaming.core.datasource.impl.MLSQLDirectJDBC
def extractTablesFromSQL(sql: String, dbType: String = JdbcConstants.MYSQL) = {
val stmt = SQLUtils.parseSingleStatement(sql, dbType)
val visitor = SQLUtils.createSchemaStatVisitor(dbType)
stmt.accept(visitor)
visitor.getTables().asScala.map { f =>
val dbAndTable = f._1.getName
if (dbAndTable.contains(“.”)) {
val Array(db, table) = dbAndTable.split(“\.”, 2)
(db ,table)
} else (dbAndTable, None)
}.toList
}
2. 查询表的元数据信息
//streaming.core.datasource.JDBCUtils
def queryTableWithColumnsInDriver(options: Map[String, String] ,tableList: List[String]) = {
val tableAndCols = mutable.HashMap.empty[String, mutable.HashMap[String ,String]]
val driver = options(“driver”)
val url = options(“url”)
Class.forName(driver)
val connection = java.sql.DriverManager.getConnection(url, options(“user”), options(“password”))
try {
val dbMetaData = connection.getMetaData()
tableList.foreach(table => {
val rs = dbMetaData.getColumns(null, null, table, “%”)
val value = tableAndCols.getOrElse(table, mutable.HashMap.empty[String ,String])
while(rs.next()){
value += (rs.getString(“COLUMN_NAME”) -> rs.getString(“TYPE_NAME”))
}
tableAndCols.update(table, value)
rs.close()
})
} finally {
if (connection != null)
connection.close()
}
tableAndCols
}
3. 根据表的元数据信息,构造表的创建语句,用于构造SchemaRepository
//streaming.core.datasource.JDBCUtils
def tableColumnsToCreateSql(tableClos: mutable.HashMap[String, mutable.HashMap[String, String]]) = {
val createSqlList = mutable.ArrayBuffer.empty[String]
tableClos.foreach(table => {
var createSql = “create table " + table._1 + " (” +
table._2.map(m => m._1 + " " + m._2)
.mkString(“,”) +
" )"
createSqlList += createSql
})
createSqlList.toList
}
4. 解析SQL的表和列
//tech.mlsql.sql.MLSQLSQLParser
def extractTableWithColumns(dbType :String ,sql :String ,createSchemaList :List[String]) = {
val tableAndCols = mutable.HashMap.empty[String, mutable.HashSet[String]]
val repository = new SchemaRepository(dbType)
createSchemaList.foreach(repository.console(_))
val stmtList = SQLUtils.parseStatements(sql, dbType)
val stmt = stmtList.get(0).asInstanceOf[SQLSelectStatement]
repository.resolve(stmt)
val statVisitor = SQLUtils.createSchemaStatVisitor(dbType)
stmt.accept(statVisitor)
val iter = statVisitor.getColumns().iterator()
while(iter.hasNext()){
val c = iter.next()
if(c.isSelect()){
val value = tableAndCols.getOrElse(c.getTable, mutable.HashSet.empty[String])
value.add(c.getName)
tableAndCols.update(c.getTable, value)
总结
虽然我个人也经常自嘲,十年之后要去成为外卖专员,但实际上依靠自身的努力,是能够减少三十五岁之后的焦虑的,毕竟好的架构师并不多。
架构师,是我们大部分技术人的职业目标,一名好的架构师来源于机遇(公司)、个人努力(吃得苦、肯钻研)、天分(真的热爱)的三者协作的结果,实践+机遇+努力才能助你成为优秀的架构师。
如果你也想成为一名好的架构师,那或许这份Java成长笔记你需要阅读阅读,希望能够对你的职业发展有所帮助。
人的职业目标,一名好的架构师来源于机遇(公司)、个人努力(吃得苦、肯钻研)、天分(真的热爱)的三者协作的结果,实践+机遇+努力才能助你成为优秀的架构师。
如果你也想成为一名好的架构师,那或许这份Java成长笔记你需要阅读阅读,希望能够对你的职业发展有所帮助。
[外链图片转存中…(img-HbCU7sLb-1715794443828)]