我的大数据之旅-Flink 批处理文本文件 word count

本文介绍如何使用Flink进行批处理,通过一个简单的Word Count例子,展示了从新建Flink项目到实现批处理类的完整过程,包括设置运行环境、配置数据源、进行转换操作和数据输出。
摘要由CSDN通过智能技术生成

目录

 

前言:

需求:

通过Flink统计一个文本文件里单词个数

实现:

新建Flink项目

创建批处理类

结果


前言:

对比Spark、Flink开发流程,发现Flink的开发流程比较简单明了。

主要分几个步骤:

  1. env :设置运行环境
  2. source:配置数据源
  3. transform:各种转换操作(flatMap/filter/join/group等)
  4. sink:下沉到各种输出(text file /kafka等)

需求:

通过Flink统计一个文本文件里单词个数

 

实现:

新建Flink项目

如果没有flink-quickstart-scala的话,通过右上角的新建添加一下即可

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值