flink 最快掌握广播变量的用法,省时间必看

什么是广播变量?为什么要引入这个东西?

 

就是一个公共变量,作用范围比全局变量要大!

引入这个的目的,节省内存资源。


看一个  demo


实现的步骤

1、创建数据集,并创建为广播变量

2、重写map方法,获取广播变量,然后数据转换一下得到想要的数据

package day04;

import org.apache.flink.api.java.ExecutionEnvironment;
import org.apache.flink.api.java.operators.DataSource;
import org.apache.flink.api.java.operators.MapOperator;
import org.apache.flink.api.java.tuple.Tuple2;
import org.apache.flink.api.java.tuple.Tuple3;

import java.util.ArrayList;

public class test {
    /**
     * date 2023-03-28
     *
     * arm: 广播变量的用法
     */
    public static void main(String[] args) {
        ArrayList<Tuple2<Integer,String>> list = new ArrayList<>();
        list.add(new Tuple2<>(1,"张三"));
        list.add(new Tuple2<>(2,"李四"));
        list.add(new Tuple2<>(3,"王五"));
        ArrayList<Tuple3<Integer,String,Integer>> list1 = new ArrayList<>();
        list1.add(new Tuple3<>(1, "语文", 50));
        list1.add(new Tuple3<>(2, "数学", 70));
        list1.add(new Tuple3<>(3, "英文", 86));

        ExecutionEnvironment env = ExecutionEnvironment.getExecutionEnvironment();
        DataSource<Tuple2<Integer, String>> student  = env.fromCollection(list);
        DataSource<Tuple3<Integer,String,Integer>> score = env.fromCollection(list1);
        MapOperator<Tuple3<Integer, String, Integer>, Tuple3<String, String, Integer>> result = score.map(new mapFunction()).withBroadcastSet(student, "student");
        try {
            result.print();
        } catch (Exception e) {
            e.printStackTrace();
        }
    }
}

 

 

package day04;

import org.apache.flink.api.common.functions.RichMapFunction;
import org.apache.flink.api.java.tuple.Tuple2;
import org.apache.flink.api.java.tuple.Tuple3;
import org.apache.flink.configuration.Configuration;
import java.util.HashMap;
import java.util.List;

public class mapFunction extends RichMapFunction<Tuple3<Integer,String,Integer>,Tuple3<String,String,Integer> > {
    static   HashMap<Integer, String> map =new HashMap<Integer, String>();
    @Override
    public void open(Configuration parameters) throws Exception {
        //获取广播变量
        List<Tuple2<Integer, String>> lists = getRuntimeContext().getBroadcastVariable("student");
      for(int i=0;i<lists.size();i++){
          System.out.println(lists.get(i).f0+"--->"+lists.get(i).f1);
          map.put(lists.get(i).f0,lists.get(i).f1);
      }
    }


    @Override
    public void close() throws Exception {
        super.close();
    }

    @Override
    public Tuple3<String, String, Integer> map(Tuple3<Integer, String, Integer> tups) throws Exception {

        return new Tuple3(map.get(tups.f0),tups.f1,tups.f2);
    }
}

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

qq_37591637

请给我持续更新的动力~~

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值