Flink 创建流处理运行环境

import org.apache.flink.api.java.utils.ParameterTool
import org.apache.flink.streaming.api.scala.{StreamExecutionEnvironment, _}

/**
DATE:2022/10/1 19:10
*   AUTHOR:GX
*/
object streamWordCount {
  def main(args: Array[String]): Unit = {
    //创建流处理运行环境
    val env = StreamExecutionEnvironment.getExecutionEnvironment
//    env.setParallelism(16) //设置当前并行度 //执行在哪一个线程是根据当前单词的哈希值决定的

    //从外部命令中提取参数作为socket主机名和端口号
    val paramTool:ParameterTool = ParameterTool.fromArgs(args)
    val host = paramTool.get("host")
    val port = paramTool.getInt("port")
      //接受一个socket文本流
    val inputDataStream:DataStream[String] = env.socketTextStream(host,port)
    //进行转换处理统计
    val resultDataStream:DataStream[(String,Int)] = inputDataStream
      .flatMap(x=>x.split(" "))
      .filter(_.nonEmpty)
      .map((_,1))
      .keyBy(0)  //分组基于当前key的hash值取模
      .sum(1)
    //打印输出
    resultDataStream.print()
    //  .setParallelism(1) 
    //输出数据可能乱序,网络传输的时候已经乱了,并行度为1时不乱,不能实现高并发,高吞吐量
    //启动一个进程,等待数据输入
    //启动任务执行
    env.execute("streamWordCount")
/*    3> (hello,1)   前面的数字并行的线程 当前机器的核数
    5> (world,1)
    7> (flink,1)
    7> (flink,2)*/
  }
}

--host master --port 7777

master: nc -lk 7777

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值