分布式数据流引擎:flink
文章平均质量分 64
Apache Flink是由Apache软件基金会开发的开源流处理框架,其核心是用Java和Scala编写的分布式流数据流引擎。Flink以数据并行和流水线方式执行任意流数据程序,Flink的流水线运行时系统可以执行批处理和流处理程序
涛2021
这个作者很懒,什么都没留下…
展开
-
Flink DataSet的常用API
Fink DataSet 常用API一、DataSourceTransformationSinkFlink DataSet 常用API主要分为3部分:DataSource:是程序的数据源的输入,可以自定义数据源;transformation:具体的操作,对一个或多个输入进行计算处理;Sink:程序的输出,将Transformation处理之后的数据输出到指定的存储介质中;一、DataSource1、来源DataSource方法描述基于文件readTextFile读原创 2021-12-16 11:25:21 · 1629 阅读 · 0 评论 -
Fink DataStream 常用API
Fink DataStream 常用API一、DataSourceTransformationSinkFlink DataStream 常用API主要分为3部分:DataSource:是程序的数据源的输入,可以自定义数据源;transformation:具体的操作,对一个或多个输入进行计算处理;Sink:程序的输出,将Transformation处理之后的数据输出到指定的存储介质中;一、DataSource1、来源DataSource方法描述基于文件readText原创 2021-12-16 10:48:43 · 1296 阅读 · 0 评论 -
flink批处理示例开发
flink批处理示例开发一、版本和开发工具二、开发示例三、运行前一节介绍了流处理开发示例,本节来展示flink批处理开发。一、版本和开发工具flink版本:1.13.3开发工具:Intellij IDEAJava版本:1.8.0_261二、开发示例1、开发需求:统计一个文件中的单词出现的总次数,并且把结果存储到文件中。2、接上节的开发,代码下载地址:Flink开发示例源代码3、核心代码如下public static void main(String[] args) throws Exce原创 2021-12-13 09:47:52 · 7952 阅读 · 0 评论 -
flink流处理示例开发
flink 开发示例一、版本和开发工具二、Flink 程序开发步骤三、开发示例四、运行一、版本和开发工具flink版本:1.13.3开发工具:Intellij IDEAJava版本:1.8.0_261二、Flink 程序开发步骤1、获得一个执行环境2、加载或者创建初始化数据3、指定操作数据的Transaction算子4、指定计算好的数据的存放位置5、调用execute()触发程序执行三、开发示例1、创建项目,填写项目名称,存放路径、包名、版本号等2、添加依赖,在本机注释掉sco原创 2021-12-12 21:41:52 · 9526 阅读 · 0 评论 -
flink13.1在yarn上运行,需要设置HADOOP_CLASSPATH
需要配置HADOOP_CLASSPATHexport HADOOP_CLASSPATH=hadoop classpath原创 2021-07-02 11:36:03 · 2452 阅读 · 1 评论