Hive groovy 动态代码生成

JIRA HIVE-5252

测试文件

compile_processor.q

compile `import org.apache.hadoop.hive.ql.exec.UDF \;
public class Pyth extends UDF {
  public double evaluate(double a, double b){
    return Math.sqrt((a*a) + (b*b)) \;
  }
} ` AS GROOVY NAMED Pyth.groovy;
CREATE TEMPORARY FUNCTION Pyth as 'Pyth';

SELECT Pyth(3,4) FROM src tablesample (1 rows);

DROP TEMPORARY FUNCTION Pyth;
  • CompileProcessor.run()
  • CompileProcessor.compile(ss)
    1. 创建临时文件夹
    2. 使用Groovyc 工具(Ant Task) 执行execute()方法生成class文件:GenVectorCode.execute()
      2.1 init() 设置环境变量
      2.2 将内部定义的templateExpansions 这些方法根据对应的模版,生成相应的class文件
      2.3 模版文件路径 hive/ql/src/gen/vectorization/ExpressionTemplates
    3. 使用JarArchiveOutputStream工具打包class 文件为jar包
  • SessionState.add_resources 根据传入的地址进行下载Jar文件到本地,并在当前线程内进行加载
  • ResourceType.JAR.preHook() 分别在开始和结束的时候进行加载和卸载jar
  • SessionState.registerJars(List newJars) : 获取当前线程的classLoader, load jar
  • Utilities.addToClassPath(ClassLoader cloader, String[] newPaths)
  • UDFClassLoader.addURL(String url)
  • URLClassLoader.addURL(url) : jdk class loader
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值