flink 编程模型

  在大数据开发领域,每个大数据开发框架都有着自己固定的编程模型。用户只有按照这套流程实现自己的业务逻辑即可。flink也有着自己固定的开发模式,流,批开发模式一样,只是调用的类不一样,社区也在计划统一api。flink支持java,scala,python语言开发,flink开发的大多少都是使用java。java api 在 org.apache.flink.api.java.*,scala api在 org.apache.flink.api.scala._

  //设定执行环境       
 final ExecutionEnvironment env = ExecutionEnvironment.getExecutionEnvironment();
 
 //指定数据源,获取输入数据	
 DataSet<String> text = env.readTextFile(params.get("input"));

 //对数据集指定转换操作		
 DataSet<Tuple2<String, Integer>> counts =
				text.flatMap(new Tokenizer())
				.groupBy(0)
				.sum(1);

//指定计算结果输出位置
counts.writeAsCsv(params.get("output"), "\n", " ");

//指定任务名称并触发任务执行
env.execute("WordCount Example");
//设定执行环境
final StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();

//指定数据源	
DataStream<String> text = env.readTextFile(params.get("input"));
	
//对输入数据进行转换操作
DataStream<Tuple2<String, Integer>> counts =
			text.flatMap(new Tokenizer())
			.keyBy(0).sum(1);

//指定计算结果输出位置
counts.writeAsText(params.get("output"));

//设置任务名称并触发任务执行
env.execute("Streaming WordCount");

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值