数据治理三-Atlas与Hive数据集成

本文档介绍了如何集成Hive与Atlas进行数据治理。首先,详细讲述了安装Hadoop和Hive的步骤,包括下载、配置环境变量和验证安装。接着,重点讨论了Hive数据集成,包括Hive同步配置、全量同步配置和钩子测试,确保Hive的操作能够被Atlas捕获并生成元数据。最后,文中提到了在Hive中创建测试表以验证配置的成功。
摘要由CSDN通过智能技术生成

4、验证是否安装成功

四、Hive数据集成

1、Hive同步配置集成

2、全量同步配置

3、钩子测试

五、错误记录

1、配置文件中存在异常字符

2、guava版本不一致


一、安装环境

======

JDK 1.8

二、安装Hadoop

==========

1、下载hadoop

http://mirror.bit.edu.cn/apache/hadoop/ 选择合适的版本

下载hadoop

wget http://mirror.bit.edu.cn/apache/hadoop/common/hadoop-3.3.0/hadoop-3.3.0.tar.gz

执行 进行解压,为了方便使用吗,mv进行修改名称

tar -xzvf hadoop-3.3.0.tar.gz

mv hadoop-3.3.0.tar.gz  hadoop

2、修改环境变量

将hadoop环境信息写入环境变量中

vim /etc/profile

export HADOOP_HOME=/opt/hadoop

export PATH= H A D O O P H O M E / b i n : HADOOP_HOME/bin: HADOOPHOME/bin:PATH

执行source etc/profile使其生效

3、修改配置文件

修改hadoop-env.sh文件,vim etc/hadoop/hadoop-env.sh修改JAVA_HOME信息

export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk-1.8.0.262.b10-0.el7_8.x86_64

执行hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-3.3.0.

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值