java flink项目_IDEA上运行Flink任务的实战教程

本文详细介绍了如何在IDEA上配置并运行Flink任务,包括创建Maven工程、导入Flink依赖、设置jar、启动服务以及进行调试。通过实战步骤,帮助读者掌握在IDEA中便捷地开发和调试Flink项目。
摘要由CSDN通过智能技术生成

欢迎访问我的GitHub

内容:所有原创文章分类汇总及配套源码,涉及Java、Docker、Kubernetes、DevOPS等;

IDEA是常用的IDE,我们编写的flink任务代码如果能直接在IDEA运行,会给学习和开发带来很大便利,例如改完代码立即运行不用部署、断点、单步调试等;

环境信息

电脑:2019版13寸MacBook Pro,2.3 GHz 四核Intel Core i5,8 GB 2133 MHz LPDDR3

操作系统:macOS Catalina 10.15.3

JDK:1.8.0_211

Maven:3.6.0

IDEA:2018.3.5 (Ultimate Edition)

Flink版本:1.9.2

关于正版IDEA

开发

首先确保您电脑上maven已装好;

创建一个flink任务的maven工程,找个干净目录执行以下命令:

mvn \

archetype:generate \

-DarchetypeGroupId=org.apache.flink \

-DarchetypeArtifactId=flink-quickstart-java \

-DarchetypeVersion=1.9.2

按提示输入groupId、artifactId、version、package等内容:

61a62230b742aff7a1b0fb0c11c58501.png

4. 现在maven工程已生成,用IDEA导入这个工程,如下图:

3898cf89182a4f5817f9fb79ac3d6059.png

5. 以maven的类型导入:

7f769d8e0666301713108ff1fd5e1382.png

6. 导入成功后的样子:

321c4e99c14c279d18f841b08dd3e857.png

e51cbcadde25be00b01cbb72f2af2691.png

8. 现在的代码已经能运行,但flink网页却还不能访问,会显示以下错误信息,需要继续做些设置:

2482bce2a6949d75059ee78f6ad4525e.png

9. 下载flink-1.9.2安装包,这里面有flink网页服务用到的一个jar,地址是:https://www-eu.apache.org/dist/flink/flink-1.9.2/flink-1.9.2-bin-scala_2.11.tgz

10. flink-1.9.2-bin-scala_2.11.tgz下载后解压,在lib目录下有个flink-dist_2.11-1.9.2.jar文件,记住此文件的位置,稍后会用到;

11. 回到IDEA,在项目上点击右键,点击菜单Open Module Settings:

f207d166002e16a1dd1d5a603ebebb22.png

12. 在弹出的窗口做如下操作,目的是给项目中增加jar:

3d27eeaecee27b3cf90cd858fc117e5d.png

13. 弹出选择文件的窗口,请选择刚才准备好的文件flink-dist_2.11-1.9.2.jar:

3b1d70b2b59b560a92e37f3c4cd13fcf.png

14. 设置工作已经完成,由于StreamingJob的工作是读取本机18081端口的数据,所以我们要把18081端口的服务启动起来,不然StreamingJob运行时是连不上端口的,打开一个控制台,执行命令:nc -l 18081

15. 现在可以将StreamingJob运行起来,如下图,右键点击StreamingJob,选择Run 'StreamingJob.main()':即可启动flink任务,如果想打断点调试,请选择Debug 'StreamingJob.main()'

37e3d7cb52603050e1f9db86600d6f84.png

16. 回到刚才执行nc命令的控制台,输入一些字符串,例如"aaa bbb aaa",然后回车;

17. 再回到IDEA,可见StreamingJob已经从18081端口读到了数据并且输出了统计结果:

b3e2dd98356c28407131776cf33e4e9b.png

18. 在IDEA的控制台搜索关键字localhost,如下图红框,可以查到flink网页的端口,我这里是62641:

59d0321026b6d732e2d667cccb620cc3.png

19. 浏览器访问http://localhost:62641,如下图,可见flink网页已经正常显示,正在运行的任务也能看到:

3adb7faf63becb740e22c3c57394ba7b.png

至此,最简单的IDEA运行flink任务的实战就完成了,如果您也在学习flink,希望本文能给您一些参考;

到此这篇关于IDEA上运行Flink任务的文章就介绍到这了,更多相关IDEA上运行Flink任务内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值