基于Flink的实时告警实现(1):Flink简介与开发环境搭建

本专题将会从0到1实现告警处理流程,并会讲解实现过程中使用到的Flink中的技术。

1 Flink简介

Flink是一个流式的分布式处理引擎,可以同时处理有界流和无界流,并可以运行在常见的集群环境中。
Flink常用的应用场景有:
(1) 事件驱动型应用
(2) 数据分析型应用
(3) 数据管道应用:将数据进行转换后再迁移到其他的存储系统

2 Flink的Local部署模式

Flink支持三种部署模式:

  • Local:本地直接起一个taskmanager,通常用于本地调试
  • Standalone:物理机集群模式,但是在资源隔离和调度方面不足
  • Flink On Yarn/Kubernetes:底层的Yarn或者Kubernetes提供统一的资源管理,一般用于生产环境

本文只讲解Local模式,完成用Local模式正常运行简单的flink应用。Local模式就是单机模式,相当于启动了一个taskmanager,这种部署方式通常用于本地调试。

下载flink的安装包,解压后,进入安装包目录并执行:bin/start-cluster.sh。这里需要解释下flink的安装包的名字:flink-1.12.1-bin-scala_2.11.tgz,其中2.11是scala的版本,1.12.1是Flink的版本。

然后使用jps查看进程:

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-bceqHXyS-1616511463300)(en-resource://database/1134:1)]

同时,通过bin/flink程序可以操作flink中的任务:

  • flink run:编译并运行程序
  • flink info:显示程序优化后的执行计划
  • flink list:查看当前执行的任务
  • flink stop:暂停任务
  • flink cancel:取消任务

3 IDE开发环境搭建

开发java常用的IDE有:Eclipse/MyEclipse、VsCode、JetBrains IDEA。个人比较喜欢IDEA的风格,而且JetBrains的IDE的体验都很好,因此,这里使用IDEA搭建开发环境。

1 从JetBrains网站上下载安装包进行安装,IDEA自带了jdk和maven,jdk最好还是用自己下载的,因为自带的jdk是经过JetBrains改造过的。

2 创建工程,并填写Archetype:

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-y5aRlY38-1616511463302)(en-resource://database/1138:1)]

创建完成后,就会从maven网站上下载flink-quickstart-java的代码,并会下载相应的包,例如,flink-java、flink-streaming-java、flink-clients等,此处可能会由于网络原因导致下载包的时间较长。

3 进行构建:

双击图中的package,就会在项目的target目录下生成jar包。

4 执行其中的quickstart中的示例程序:

flink run -c org.test.WordCount flink-test-1.0.0.jar

就可以看到单词的个数的统计结果,这样就完成了第一个flink程序的构建和执行的过程。

3 小结

本节简单介绍了Flink,然后将flink部署到本地,并执行了quickstart中的wordcount程序,完成了helloworld程序的执行。

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值