Spark集群运行时的运行依赖问题解决方案之一

(远程jar包运行指令)Spark集群运行时的运行依赖问题解决方案之一

运行时,使用包含第三方依赖的spark应用jar包 spark-day2-1.0-SNAPSHOT-jar-with-dependencies.jar

 <!-- maven 打包插件 打原始jar包 第三方依赖打入jar包中-->
 <plugins>
 <plugin>
  <artifactId>maven-assembly-plugin</artifactId>
  <configuration>
      <archive>
          <manifest>
              <!--这里要替换成jar包main方法所在类 -->
              <mainClass>com.baizhi.RDDDataSourceWithHBase</mainClass>
          </manifest>
          <manifestEntries>
              <Class-Path>.</Class-Path>
          </manifestEntries>
      </archive>
      <descriptorRefs>
          <descriptorRef>jar-with-dependencies</descriptorRef>
      </descriptorRefs>
  </configuration>
  <executions>
      <execution>
          <id>make-assembly</id> <!-- this is used for inheritance merges -->
          <phase>package</phase> <!-- 指定在打包节点执行jar包合并操作 -->
          <goals>
              <goal>single</goal>
          </goals>
      </execution>
  </executions>
  </plugin>
 <plugins>

上传jar包linux运行命令(spark)

bin/spark-submit --master spark://Spark:7077 --class 运行类的全限定名名 --total-executor-cores 4 /root/要运行的jar包

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值