大数据开发之词频统计传参打包成jar包发送到Hadoop运行并创建可执行文件方便运行_hadoopjava项目打包jar(2)

然后点击ok即可。

main传参调试

首先给出词频统计代码

//包
import org.apache.spark.{SparkContext, SparkConf}
object testMainInput {
  def main(args: Array[String]): Unit = {
    if(args.length < 2){println(args.length);println("Please input 2 args, return"); return}
    val conf = new SparkConf().setAppName("spark1").setAppName("icy hunter").setMaster("local[\*]")
    val sc = new SparkContext(conf)
    sc.textFile(args(0), 4)
      .flatMap(_.split(" "))
      .map((_, 1))
      .reduceByKey(_+_)
      .saveAsTextFile(args(1))
    sc.stop()
  }
}

此时可以测试一下传参效果。

idea调试时，main参数输入：菜单->run->Edit Configurations:

这就是传入的两个参数。

可以调试的时候试试。

打包成jar包

首先需要修改代码，将setMaster(“local[*]”)删了

//包
import org.apache.spark.{SparkContext, SparkConf}
object testMainInput {
  def main(args: Array[String]): Unit = {
    if(args.length < 2){println(args.length);println("Please input 2 args, return"); return}
    val conf = new SparkConf().setAppName("spark1").setAppName("icy hunter")
    val sc = new SparkContext(conf)
    sc.textFile(args(0), 4)
      .flatMap(_.split(" "))
      .map((_, 1))
      .reduceByKey(_+_)
      .saveAsTextFile(args(1))
    sc.stop()
  }
}

project structure中如下选项

进入

Main Class点击文件夹标志选择

点击ok

点击ok

然后需要进行瘦身，把不需要的包删了，这样打包出来就比较小了。

点击-号，这些全删了，留最后一个compile output即可。

然后ok了。

同时点击一下，我们也可以看到打包后存放的路径

接下来开始打包：

点击build Artifacts

跳出这个，点击rebuild即可。
这样就打包完成了。

发送到Hadoop运行

首先找到jar包位置
打开终端

spark-submit --master yarn --deploy-mode cluster testMainInput.jar "hdfs://192.168.3.215:9000/mydir123/a1.txt" "hdfs://192.168.3.215:9000/mydir123/out3"

其中路径得你自己集群的文件路径才能运行成功。

使用脚本运行

创建一个脚本文件

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化资料的朋友，可以戳这里获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

/bbs.csdn.net/topics/618545628)**

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！