自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(4)
  • 收藏
  • 关注

翻译 Flink事件时间处理和水印

最近找到这个对事件时间处理和水印说的比较好的文章,所以转载一下,供大家分享,原文连接:http://vishnuviswanath.com/flink_eventtime.html 本文用途纯粹是为了分享,如若有侵权,请与我联系~下面是原文: 如果您正在构建实时流媒体应用程序,则事件时间处理是您必须迟早使用的功能之一。由于在大多数现实世界的用例中,消息到达无序,应该有一些方法,您建立的系统了解消

2017-09-22 16:57:18 20662 19

原创 Flink读写数据(hdfs)(DataSet)

读数据DataSet<String> hdfslines=env.readTextFile("your hdfs path")写数据hdfslines.writeAsText("your hdfs path")以上会根据你的默认的线程数来生成多少个分区文件,如果你想最后生成一个文件的话,可以在后面使用setParallelism(1),这样最后就只会生成一个文件了。

2017-09-21 17:14:16 13795 7

原创 flink使用BucketingSink将文件写入hdfs

最近在找一些写入到flink写入到hdfs的方法,然后在官网找到了这个(https://ci.apache.org/projects/flink/flink-docs-release-1.4/dev/connectors/filesystem_sink.html),然后就尝试着去使用这个,虽然能把数据写到hdfs上面去,但是是分片的,结果图如下:里面的内容是把我原来上传的文件给分片了。ps:我

2017-09-21 16:23:12 9930 3

原创 flink standalone集群部署

其实standalone模式挺容易部署的,首先我们修改/etc/hosts,将网址和主机名进行映射,将你想要搭成一个flink集群的机器写进去,我这里用三台机器组成一个flink集群,效果图如下:然后,我们只需要在一台机器上先解压flink压缩包,然后修改其中的flink-yaml文件中的jobmanager.rpc.address属性值,将其设置为你的master节点,类比我图中的1

2017-09-15 20:22:08 731

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除