spark更新广播变量实例

实际项目中需要使用更新广播变量的方式来满足需求,其代码具体如下:

@NotProguard
public class WbBroadcastWrapper {
	
	Broadcast<List<String>> broadcastBlackWhiteList = null;
	private static WbBroadcastWrapper obj = new WbBroadcastWrapper();

    private WbBroadcastWrapper(){}

    public static WbBroadcastWrapper getInstance() {
        return obj;
    }
    
    public JavaSparkContext getSparkContext(SparkContext sc) {
        JavaSparkContext jsc = JavaSparkContext.fromSparkContext(sc);
        return jsc;
    }
    
    public Broadcast<List<String>> updateAndGetWbBroadCast(SparkContext sparkContext,Map<String,String> params) {
    	if(broadcastBlackWhiteList == null || judgeBlackAndWhiteIsUpdate(params)) {
    		JRedisClusterHelper instance = JRedisClusterHelper.getInstance();
    		String path = params.get("redis.jedisPoolConfig.urls");
    		JedisCluster jedisCluster = instance.getJedisCluster(path);
			String blackWhiteSql = jedisCluster.hget("black_white_list", "1");
			DbFetcher dbFetcher = new DbFetcher();
			List<String> fetchSqlList = dbFetcher.fetchSqlList(blackWhiteSql,params);
			if(broadcastBlackWhiteList != null) {
				broadcastBlackWhiteList.unpersist();
			}
			broadcastBlackWhiteList = getSparkContext(sparkContext).broadcast(fetchSqlList);
    	}
    	return broadcastBlackWhiteList;
    }
    
    
	public static boolean judgeBlackAndWhiteIsUpdate(Map<String,String> parmas) {
		JRedisClusterHelper instance = JRedisClusterHelper.getInstance();
		String path = parmas.get("redis.jedisPoolConfig.urls");
		JedisCluster jedisCluster = instance.getJedisCluster(path);
		String modified = jedisCluster.get(FinalParameterHelper.BLACK_AND_WHITE_MODIFIED);
		if(modified != null && Integer.parseInt(modified.trim()) == 1) {
			jedisCluster.set(FinalParameterHelper.BLACK_AND_WHITE_MODIFIED, "0");
			return true;
		}
		return false;
	}
    
}


  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值