大数据技术之spark
L凝竹
数据产能,人类宝藏。欢迎共同讨论
展开
-
使用java代码来实现动态提交spark任务到集群
场景执行java代码的一个方法,这个动作触发提交spark任务到运行在yarn上的spark 集群开始Spark任务介绍执行spark读取Hive中的一个表,这个表是用Hive来管理的HBASE表。统计这个表的总记录数。具体代码如下: objectTable_count { def main(args: Array[String]): Unit = {...原创 2018-05-05 12:51:08 · 11542 阅读 · 4 评论 -
scala的运行时反射
1. 运行时反射scala编译器会将scala代码编译成JVM字节码,编译过程中会擦除scala特有的一些类型信息,在scala-2.10以前,只能在scala中利用java的反射机制,但是通过java反射机制得到的是只是擦除后的类型信息,并不包括scala的一些特定类型信息。从scala-2.10起,scala实现了自己的反射机制,我们可以通过scala的反射机制得到scala的类型信息...原创 2018-06-26 23:17:25 · 1501 阅读 · 0 评论