flink批处理示例开发


前一节介绍了 流处理开发示例,本节来展示flink批处理开发。

一、版本和开发工具

flink版本:1.13.3
开发工具:Intellij IDEA
Java版本:1.8.0_261

二、开发示例

1、开发需求:统计一个文件中的单词出现的总次数,并且把结果存储到文件中。
2、接上节的开发,代码下载地址:Flink开发示例源代码
3、核心代码如下

public static void main(String[] args) throws Exception{
        // 输入文件目录
        String inputPath = "D:\\data\\file";
        // 输出文件名result
        String outputPath = "D:\\data\\result.txt";
        // 获取运行环境
        ExecutionEnvironment env = ExecutionEnvironment.getExecutionEnvironment();
        // 获取文件中的内容
        DataSource<String> text = env.readTextFile(inputPath);
        // 计算
        DataSet<Tuple2<String,Integer>> counts = text.flatMap(new Tokenizer()).groupBy(0).sum(1);
        // 写入文件
        counts.writeAsCsv(outputPath,"\n","***").setParallelism(1);
        // 执行
        env.execute("batch word count");
    }

三、运行

1、创建文件,放入d:\data\file

1
hel
wor
test
wxt
1
hel
wor

2、运行程序
3、查看运行结果。打开d:\data\result文件

test***1
1***2
hel***2
wxt***1
wor***2
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
Flink是一个用于大规模流处理和批处理的开源框架,它提供了高效,可扩展和容错的数据处理能力。使用Java开发Flink程序有以下几个步骤: 1. 安装pom依赖,配置打包插件以及入口类。根据项目需求,在pom.xml文件中添加Flink的依赖,配置相关的打包插件,并指定入口类。 2. 编写Flink程序。根据需求,编写Flink程序,包括数据源的定义、数据的转换和计算逻辑的实现等。 3. 完整的Java代码。下面是一个简单的Flink Java程序的示例代码: ```java import org.apache.flink.api.common.functions.FlatMapFunction; import org.apache.flink.api.java.tuple.Tuple2; import org.apache.flink.streaming.api.datastream.DataStream; import org.apache.flink.streaming.api.environment.StreamExecutionEnvironment; import org.apache.flink.util.Collector; public class FlinkJavaProgram { public static void main(String[] args) throws Exception { // 创建执行环境 final StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment(); // 创建数据源 DataStream<String> dataStream = env.fromElements("java,scala,php,c", "java,scala,php", "java,scala", "java"); // 数据转换和计算逻辑 DataStream<Tuple2<String, Integer>> result = dataStream .flatMap(new LineSplitter()) .keyBy(0) .sum(1); // 打印结果 result.print(); // 执行程序 env.execute("Flink Java Program"); } public static final class LineSplitter implements FlatMapFunction<String, Tuple2<String, Integer>> { @Override public void flatMap(String value, Collector<Tuple2<String, Integer>> out) { // 将字符串按逗号分割,并计数为1 String[] words = value.split(","); for (String word : words) { out.collect(new Tuple2<>(word, 1)); } } } } ``` 4. 测试。根据需要,可以定义合适的测试数据和输入源,并运行Flink程序进行测试。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

涛2021

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值