flink整合java,Flink安装及使用

本文介绍了如何在本地安装Flink,并通过Java进行批处理和流处理WordCount示例。首先,从官网下载并解压Flink,设置环境变量,启动Flink集群。接着,创建Flink Java项目,实现WordCount程序,通过命令行运行批处理任务。此外,还展示了如何进行流处理WordCount,通过socket接收数据,实时计算并输出结果。
摘要由CSDN通过智能技术生成

本地部署

安装

在官网安装Flink,并解压到/usr/local/flink

sudo tar -zxf flink-1.6.2-bin-hadoop27-scala_2.11.tgz -C /usr/local

cd /usr/local

bbaa8d72cfcf

54388226982

修改文件名字,并设置权限

sudo mv ./flink-*/ ./flink

sudo chown -R hadoop:hadoop ./flink

修改配置文件

Flink对于本地模式是开箱即用的,如果要修改Java运行环境,可修改conf/flink-conf.yaml中的env.java.home,设置为本地java的绝对路径

添加环境变量

vim ~/.bashrc

export FLINK_HOME=/usr/local/flink

export PATH=$FLINK_HOME/bin:$PATH

bbaa8d72cfcf

54388242695

启动Flink

start-cluster.sh

可以通过观察logs目录下的日志来检测系统是否正在运行了

tail log/flink--jobmanager-.log

bbaa8d72cfcf

54388315301

JobManager同时会在8081端口上启动一个web前端,通过http://localhost:8081来访问

bbaa8d72cfcf

54388290147

可以发现flink已经正常启动

运行示例

使用Maven创建Flink项目,在pom.xml中添加以下依赖:

org.apache.flink

flink-java

1.6.2

org.apache.flink

flink-streaming-java_2.11

1.6.2

org.apache.flink

flink-clients_2.11

1.6.2

批处理运行WordCount

官方示例

可以直接在/usr/local/flink/examples/batch中运行WordCount程序,并且这里还有更多示例:

bbaa8d72cfcf

54388437325

运行:

flink run WordCount.jar

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值