java7 flatmap_flink学习之七-map、fliter、flatmap

看完了Flink的datasource、sink,也就把一头一尾给看完了,从数据流入到数据流出,缺少了中间的处理环节。

而flink的大头恰恰是只在这个中间环节,如下图:

7bbf14996d39

source-transform-sink-update.png

中间的处理环节比较复杂,现在也就看了其中一部分,这里先开始讲其中最简单 也最常用的map、flatmap及filter。

map

flink中dataSourceStream和java8中的map很类似,都是用来做转换处理的,看下map的实现:

public SingleOutputStreamOperator map(MapFunction mapper) {

TypeInformation outType = TypeExtractor.getMapReturnTypes((MapFunction)this.clean(mapper), this.getType(), Utils.getCallLocationName(), true);

return this.transform("Map", outType, new StreamMap((MapFunction)this.clean(mapper)));

}

可以看到:

1、返回的是SingleOutputStreamOperator泛型,这是个基础的类型,好多DataStream的方法都返回它,比如map、flapmap、filter、process等

2、最终是调用transform方法来实现的,看下transfrom的实现:

@PublicEvolving

public SingleOutputStreamOperator transform(String operatorName, TypeInformation outTypeInfo, OneInputStreamOperator operator) {

this.transformation.getOutputType();

OneInputTransformation resultTransform = new OneInputTransformation(this.transformation, operatorName, operator, outTypeInfo, this.environment.getParallelism());

SingleOutputStreamOperator returnStream = new SingleOutputStreamOperator(this.environment, resultTransform);

this.getExecutionEnvironment().addOperator(resultTransform);

return returnStream;

}

额,好像还不如不看,直接看怎么用吧!

@Slf4j

p

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值