SS00005.flink——|Hadoop&Flink计算领域锋利的武器.v05|——|Flink.v02|StandAlone模式测试|

本文介绍了如何在IntelliJ IDEA中利用Maven的shade插件将Flink程序打包成jar,并在Flink UI上提交执行。详细步骤包括设置插件、打包过程以及在命令行和Flink集群中提交和管理任务。
摘要由CSDN通过智能技术生成
一、在IDEA下导入打jar插件
### --- 将WordCountScalaStream打成jar包

~~~     注意:集群搭建完毕后,Flink程序就可以打成Jar,
~~~     在集群环境下类似于Step7中一样提交执行计算任务打jar包插件:
~~~     该插件可以把包含所有的Flink程序需要的所有的依赖文件,包含scala依赖插件,
~~~     可以不在环境下部署环境
<build>
        <plugins>
            <!-- 打jar插件 -->
            <plugin>
                <groupId>org.apache.maven.plugins</groupId>
                <artifactId>maven-shade-plugin</artifactId>
                <version>2.4.3</version>
                <executions>
                    <execution>
                        <phase>package</phase>
                        <goals>
                            <goal>shade</goal>
                        </goals>
                        <configuration>
                            <filters>
                                <filter>
                                    <artifact>*:*</artifact>
                                    <excludes>
                                        <exclude>META-INF/*.SF</exclude>
                                        <exclude>META-INF/*.DSA</exclude>
                                        <exclude>META-INF/*.RSA</exclude>
                                    </excludes>
                                </filter>
                            </filters>
                        </configuration>
                    </execution>
                </executions>
            </plugin>
        </plugins>
    </build>
二、maven打成jar包并测试
### --- 在IDEA下打成jar包:WordCountScalaStream
~~~     ——>Maven——>FirstFlink:Lifeycle——>Clean——>
~~~     ——>package——>生成文件:original-FirstFlink-1.0-SNAPSHOT.jar——>END

### --- 在Flink-UI下导入jar包
~~~     ——>http://hadoop01:8081/——>Submit New Job——>Add New——>导入Jar:FirstFlink-1.0-SNAPSHOT.jar——>
~~~     ——>在Submit提交之前在:hadoop01:nc -lp 7777启动起来——>Submit——>END
将并行度设置为1;默认的
可以在Task Managers上查看到任务槽输出
设置并行度为2
三、在命令行下提交jar包:
### --- 集群模式下
~~~     运行example测试

### --- 在UI上查看Running Jobs
~~~     运行程序之前启动nc
[root@hadoop01 ~]# nc -lp 7777
~~~     # 启动运行程序
[root@hadoop01 ~]# cd /opt/yanqi/servers/flink-1.11.1/bin/
[root@hadoop01 bin]# ./flink run -c WordCountScalaStream -p 2 /root/myjars/FirstFlink-1.0-SNAPSHOT.jar
~~~ 输出参数
Job has been submitted with JobID 5431e42d51540000c36e0b0a16a2d3e8

~~~     # 取消应用程序
[root@hadoop01 bin]# ./flink cancel 5431e42d51540000c36e0b0a16a2d3e8
~~~ 输出参数
Cancelling job d6baff0e7472ac13f83f364ce47749ea.
Cancelled job d6baff0e7472ac13f83f364ce47749ea.
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

yanqi_vip

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值