mac安装sqoop

本文介绍了在mac环境下,如何在已有的hadoop 3.2.1和hive 3.1.2基础上安装并配置sqoop。过程中遇到brew安装失败的问题,选择直接下载并解决可能的版本冲突。通过配置环境变量、添加hadoop和hive路径、引入mysql jar包以及解决运行时的依赖问题,最终成功完成sqoop的配置并能连接到mysql。
摘要由CSDN通过智能技术生成

在hadoop 3.2.1和hive 3.1.2的基础上,配置sqoop。
下载
brew install sqoop #这个下载遇到了错误
http://www-eu.apache.org/dist/sqoop/1.4.7/ 链接下载
在这里插入图片描述
这个hadoop-2.6.0不知道与我本地安装的hadoop3.2.1有咩有啥冲突哇。
上面的连接太慢了,可以用这个:http://mirrors.hust.edu.cn/apache/sqoop/1.4.7/sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz

配置变量
在这里插入图片描述
验证

sqoop version

在这里插入图片描述
添加hadoop和hive的路径信息
进入/usr/local/Cellar/sqoop-1.4.7.bin__hadoop-2.6.0/conf下面:

cp sqoop-env-template.sh sqoop-env.sh

vi sqoop-env.sh 增加如下所示

这段代码实现了一个并查集数据结构。并查集是一种树型的数据结构,用于处理一些不相交集合(Disjoint Sets)的合并及查询问题。它支持两种操作: - 查找(Find):确定元素属于哪一个子集。它可以被用来确定两个元素是否属于同一子集。 - 合并(Union):将两个子集合并成同一个集合。 并查集可以用于解决很多实际问题,例如: - 判断无向图中是否有环 - 在图像处理中,判断连通区域 - 在游戏开发中,判断游戏中角色的关系 在这段代码中,类 UnionFindSet 的初始化函数 __init__ 接收两个参数:起始点 start 和结束点 n。接着定义了两个列表 pre 和 rank,用于存储每个节点的父节点和树的深度。其中,pre[i] 表示节点 i 的父节点,如果 pre[i] = i,则 i 为该集合的代表元素。 接下来的函数 init 用于初始化并查集,将每个节点的父节点设置为自身,深度为 1。 函数 find_pre 用于查找节点 x 的代表元素,同时实现了路径压缩的优化,即将查找路径上的所有节点都直接连接到代表元素上,减少查找时间。 函数 is_same 用于判断节点 x 和节点 y 是否在同一个集合中,即是否具有相同的代表元素。 函数 unite 用于合并两个集合,即将 x 所在的集合和 y 所在的集合合并为一个集合。首先查找 x 和 y 的代表元素,如果它们已经在同一个集合中,则直接返回 False。否则,将深度较小的集合连接到深度较大的集合上,并更新代表元素和深度。 最后,函数 is_one 用于判断整个并查集是否只有一个集合。它首先找到起始点的代表元素 temp,然后遍历起始点到结束点之间的所有节点,如果存在任意一个节点的代表元素不等于 temp,则说明存在多个集合,返回 False;否则,所有节点都在同一个集合中,返回 True。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值