Flink1.10,1.11与CDH的集成

本文档详细介绍了如何将Flink 1.10和1.11版本集成到CDH环境中,包括源码编译、Parcel制作过程,以及解决权限认证等问题。集成后,Flink HistoryServer将在CDH的WebUI上显示任务,提供便捷的管理和操作。
摘要由CSDN通过智能技术生成

集成目的

  • 集成Flink HistoryServer至CDH(在CDH上运行的Flink程序,在程序结束后的任务均会显示在该角色实例的WebUI上)
  • 集成Gateway(快捷命令,Flink配置分发)
  • 集成Hive相关配置至CDH Flink
  • 兼容Flink1.10 Flink1.11版本至CDH
  • GitHub打包项目:https://github.com/EvenGui/flink-parcel-master
    最终效果如图

在这里插入图片描述
在这里插入图片描述

源码编译

说明:因为我们需要与CDH集成,故Flink需要编译CDH的版本,以减少部署和使用过程中JAR冲突依赖的问题

编译环境准备

安装JDK1.8

(使用JDK1.8编译,JDK11编译Flink1.11时会停顿,卡住,且无任何提示信息)

安装Git

yum install git -y

安装Maven

wget http://mirrors.tuna.tsinghua.edu.cn/apache/maven/maven-3/3.6.3/binaries/apache-maven-3.6.3-bin.tar.gz
tar xzvf apache-maven-3.6.3-bin.tar.gz -C /usr/local/
mv /usr/local/apache-maven-3.6.3/ /usr/local/maven
vim /etc/profile
export M2_HOME=/usr/local/maven
export PATH=$PATH:$M2_HOME/bin:
source /etc/profile
mvn -v

vim /usr/local/maven/conf/setting.xml
修改以下参数
<localRepository>/opt/build_flink/mavenlib</localRepository>

<mirrors>
    <mirror>
		  <id>alimaven</id>
		  <mirrorOf>central</mirrorOf>
		  <name>aliyun maven</name>
		  <url>http://maven.aliyun.com/nexus/content/repositories/central/</url>
    </mirror>
    <mirror> 
      <id>alimaven</id> 
      <name>aliyun maven</name> 
      <url>http://maven.aliyun.com/nexus/content/groups/public/</url> 
      <mirrorOf>*,!cloudera</mirrorOf>         
    </mirror>
    <mirror>
      <id>central</id>
      <name>Maven Repository Switchboard</name>
      <url>http://repo1.maven.org/maven2/</url>
      <mirrorOf>central</mirrorOf>
    </mirror>
    <mirror>
      <id>repo2</id>
      <mirrorOf>central</mirrorOf>
      <name>Human Readable Name for this Mirror.</name>
      <url>http://repo2.maven.org/maven2/</url>
    </mirror>
    <mirror>
      <id>ibiblio</id>
      <mirrorOf>central</mirrorOf>
      <name>Human Readable Name for this Mirror.</name>
      <url>http://mirrors.ibiblio.org/pub/mirrors/maven2/</url>
    </mirror>
    <mirror>
      <id>jboss-public-repository-group</id>
      <mirrorOf>central</mirrorOf>
      <name>JBoss Public Repository Group</name>
      <url>http://repository.jboss.org/nexus/content/groups/public</url>
    </mirror>
    <mirror>
      <id>google-maven-central</id>
      <name>Google Maven Central</name>
      <url>https://maven-central.storage.googleapis.com
      </url>
      <mirrorOf>central</mirrorOf>
    </mirror>
    <!-- 中央仓库在中国的镜像 -->
    <mirror>
      <id>maven.net.cn</id>
      <name>oneof the central mirrors in china</name>
      <url>http://maven.net.cn/content/groups/public/</url>
      <mirrorOf>central<
  • 9
    点赞
  • 25
    收藏
    觉得还不错? 一键收藏
  • 42
    评论
评论 42
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值