Flink 动态读取Nacos配置

1.需求:实时读取Nacos的配置,打印在控制台
2.额外的依赖:

    <dependency>
      <groupId>com.alibaba.nacos</groupId>
      <artifactId>nacos-client</artifactId>
      <version>1.4.2</version>
    </dependency>
  1. 代码
    很简单,就直接贴了
package com.xianghu.flink.nacos;

import com.alibaba.nacos.api.NacosFactory;
import com.alibaba.nacos.api.config.ConfigService;
import com.alibaba.nacos.api.config.listener.Listener;
import org.apache.flink.api.common.functions.RichMapFunction;
import org.apache.flink.api.common.typeinfo.TypeInformation;
import org.apache.flink.api.java.utils.ParameterTool;
import org.apache.flink.configuration.Configuration;
import org.apache.flink.streaming.api.environment.StreamExecutionEnvironment;
import org.apache.flink.streaming.api.functions.source.SourceFunction;

import java.util.Map;
import java.util.Properties;
import java.util.UUID;
import java.util.concurrent.Executor;
import java.util.concurrent.TimeUnit;

public class ReadConfigFromNacos {

  public static void main(String[] args) throws Exception {
    StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();
    env.setParallelism(1);

    // 读取nacos配置 --serverAddr http://localhost:8848 --dataId flink-nacos --group DEFAULT_GROUP
    ParameterTool parameter = ParameterTool.fromArgs(args);
    env.getConfig().setGlobalJobParameters(parameter);

    env.addSource(new SourceFunction<String>() {
      boolean flag = true;

      @Override
      public void run(SourceContext<String> sourceContext) throws Exception {
        while (flag) {
          // 向下游发送数据,触发计算
          sourceContext.collect(UUID.randomUUID().toString());
          TimeUnit.SECONDS.sleep(2);
        }
      }

      @Override
      public void cancel() {
        flag = false;
      }
    }, TypeInformation.of(String.class))

        .map(new RichMapFunction<String, String>() {
          private String nacosValue;

          @Override
          public String map(String s) throws Exception {
            // 直接返回从nacos读到的值
            return nacosValue;
          }

          @Override
          public void open(Configuration parameters) throws Exception {
            // 获取nacos配置
            Map<String, String> nacosConf = getRuntimeContext()
                .getExecutionConfig()
                .getGlobalJobParameters()
                .toMap();

            String serverAddr = nacosConf.get("serverAddr");
            String dataId = nacosConf.get("dataId");
            String group = nacosConf.get("group");

            Properties properties = new Properties();
            properties.put("serverAddr", serverAddr);

            ConfigService configService = NacosFactory.createConfigService(properties);
            // context是key=value模式,多个值换行符分割,这里取第一行的key-value对
            String content = configService.getConfig(dataId, group, 5000);
            // 初始化 nacosValue
            nacosValue = content.split("\n")[0].split("=")[1];

            // 添加Listener,监控数据变化
            configService.addListener(dataId, group, new Listener() {
              @Override
              public void receiveConfigInfo(String configInfo) {
                // 有变更时,更新nacosValue
                nacosValue = configInfo.split("\n")[0].split("=")[1];
              }

              @Override
              public Executor getExecutor() {
                return null;
              }
            });
          }
        }).print();

    env.execute();
  }
}

4.现在的nacos配置
在这里插入图片描述
5.运行程序,打印当前配置
在这里插入图片描述
6.flink不停机,修改nacos配置,发布
在这里插入图片描述

在这里插入图片描述
可以看到,新的value已经打印到控制台。很简单,只是利用监听功能,Apollo的动态配置读取,也可以使用类似的操作实现。

Flink 配置 Nacos 主要用于动态管理 Flink 集群中的配置信息。Nacos 是一个更易于构建云原生应用的动态服务发现、配置管理和服务管理平台。通过将 Flink 配置信息存储在 Nacos 中,可以实现配置动态更新而无需重启集群。 以下是使用 Nacos 管理 Flink 配置的基本步骤: 1. 首先需要在 Nacos 中创建相应的配置文件,包括 Flink配置项,如任务管理器(TaskManager)的数量、资源等。 2. 在 Flink配置文件 `flink-conf.yaml` 中添加 Nacos 相关的配置项,例如 Nacos 的地址、命名空间、配置分组以及数据ID等。 3. Flink 程序启动时会读取 `flink-conf.yaml` 中的配置,并连接到 Nacos 服务器拉取配置信息。 4. 当需要更新配置时,可以直接在 Nacos 控制台中修改配置Flink 集群会实时感知到配置的变化,并自动加载新的配置。 这里是一个简化的 `flink-conf.yaml` 文件配置示例: ```yaml # Nacos 配置nacos.server-addr: 127.0.0.1:8848 nacos.namespace: f28a599b-7733-4e7f-b787-76e6c8d5d5d5 nacos.group: DEFAULT_GROUP nacos.dataId: flink-config ``` 在程序中,可以通过 Flink配置对象 `Configuration` 来访问这些配置: ```java Configuration config = new Configuration(); String nacosServerAddr = config.getString("nacos.server-addr"); String nacosNamespace = config.getString("nacos.namespace"); String nacosGroup = config.getString("nacos.group"); String nacosDataId = config.getString("nacos.dataId"); // 使用获取到的 Nacos 配置信息连接到 Nacos 服务器获取实时配置 ``` 通过以上步骤,Flink 集群的配置就可以通过 Nacos 进行动态管理了。
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值