Hive 组件安装配置实验操作

本文详细描述了如何在已部署的Hadoop全分布系统中,下载、解压和安装ApacheHive组件,包括基础环境的准备、MySQL数据库的安装与配置,以及Hive组件的环境设置和元数据初始化过程。
摘要由CSDN通过智能技术生成

一、下载和解压安装文件

1. 基础环境准备

基础环境和安装准备 Hive 组件需要基于 Hadoop 系统进行安装。因此,在安装 Hive 组件前,需要确保 Hadoop 系统能够正常运行。本章节内容是基于之前已部署完毕的 Hadoop 全分布系统,在 master 节点上实现 Hive 组件安装。

Hive 组件的部署规划和软件包路径如下:

(1)当前环境中已安装 Hadoop 全分布系统。

(2)本地安装 MySQL 数据库(账号 root,密码 Password123$), 软件包在/opt/software/mysql-5.7.18 路径下。

(3)MySQL 端口号(3306)。

(4)MySQL 的 JDBC 驱动包/opt/software/mysql-connector-java-5.1.47.jar, 在此基础上更新 Hive 元数据存储。

(5)Hive 软件包/opt/software/apache-hive-2.0.0-bin.tar.gz。

2.解压安装文件

(1)测试网络,使用 root 用户,将 Hive 安装包 /opt/software/apache-hive-2.0.0-bin.tar.gz 路解压到/usr/local/src 路径下。

(2)进入对应目录,用“mv”命令将解压后的 apache-hive-2.0.0-bin 文件夹更名为 hive。

(3)修改 hive 目录归属用户和用户组为 hadoop。

二、设置 Hive 环境

1. 卸载 MariaDB 数据库

Hive 元数据存储在 MySQL 数据库中,因此在部署 Hive 组件前需要首先在 Linux 系统 下安装 MySQL 数据库,并进行 MySQL 字符集、安全初始化、远程访问权限等相关配置。需 要使用 root 用户登录,执行如下操作步骤:

(1)关闭 Linux 系统防火墙,并将防火墙设定为系统开机并不自动启动。

(2)卸载 Linux 系统自带的 MariaDB。

先查看 Linux 系统中 MariaDB 的安装情况,然后卸载该 MariaDB 软件包。

2.安装 MySQL 数据库

(1)安装软件包。

先进入/opt/software/mysql-5.7.18/目录,然后按如下顺序依次按照 MySQL 数据库的 mysql common、mysql libs、mysql client 软件包。

(2)安装 mysql server 软件包。

(3)修改 MySQL 数据库配置。

在/etc/my.cnf 文件中添加如下信息。

将以下配置信息添加到/etc/my.cnf 文件 symbolic-links=0 配置信息的下方

default-storage-engine=innodb

innodb_file_per_table

collation-server=utf8_general_ci

init-connect='SET NAMES utf8'

character-set-server=utf8

(4)启动 MySQL 数据库。

(5)查询 MySQL 数据库状态。

mysqld 进程状态为 active (running),则表示 MySQL 数 据库正常运行。 如果 mysqld 进程状态为 failed,则表示 MySQL 数据库启动异常。此时需要排查 /etc/my.cnf 文件。

(6)查询 MySQL 数据库默认密码。

MySQL 数据库安装后的默认密码保存在/var/log/mysqld.log 文件中,在该文件中以 password 关键字搜索默认密码。MySQL 数据库是安装后随机生成的,所以每次安装后生成的默认密码不相同

(7)MySQL 数据库初始化。

执行 mysql_secure_installation 命令初始化 MySQL 数据库,初始化过程中需要设定 数据库 root 用户登录密码,密码需符合安全规则,包括大小写字符、数字和特殊符号, 可设定密码为 Password123$。

在进行 MySQL 数据库初始化过程中会出现以下交互确认信息:

1)Change the password for root ? ((Press y|Y for Yes, any other key for No)表示是否更改 root 用户密码,在键盘输入 y 和回车。

2)Do you wish to continue with the password provided?(Press y|Y for Yes, any other key for No)表示是否使用设定的密码继续,在键盘输入 y 和回车。

3)Remove anonymous users? (Press y|Y for Yes, any other key for No)表示是 否删除匿名用户,在键盘输入 y 和回车。

4)Disallow root login remotely? (Press y|Y for Yes, any other key for No) 表示是否拒绝 root 用户远程登录,在键盘输入 n 和回车,表示允许 root 用户远程登录。

5)Remove test database and access to it? (Press y|Y for Yes, any other key for No)表示是否删除测试数据库,在键盘输入 y 和回车。

6)Reload privilege tables now? (Press y|Y for Yes, any other key for No) 表示是否重新加载授权表,在键盘输入 y 和回车。

mysql_secure_installation 命令执行过程如下:

(8)添加 root 用户从本地和远程访问 MySQL 数据库表单的授权。

# 输入新设定的密码 Password123$

# 添加 root 用户本地访问授权

# 添加 root 用户远程访问授权

# 刷新授权

# 查询 root 用户授权情况

# 退出 MySQL 数据库

3.配置 Hive 组件

(1)设置 Hive 环境变量并使其生效。

# 使环境变量配置生效

(2)修改 Hive 组件配置文件。

切换到 hadoop 用户执行以下对 Hive 组件的配置操作。 将/usr/local/src/hive/conf 文件夹下 hive-default.xml.template 文件,更名为 hive-site.xml。

(3)修改 hive-site.xml 文件。

通过 vi 编辑器修改 hive-site.xml 文件实现 Hive 连接 MySQL 数据库,并设定 Hive 临时文件存储路径。

1)设置 MySQL 数据库连接。

2)配置 MySQL 数据库 root 的密码。

3)验证元数据存储版本一致性。若默认 false,则不用修改。

4)配置数据库驱动。

5)配置数据库用户名 javax.jdo.option.ConnectionUserName 为 root。

6 )将以下位置的 ${system:java.io.tmpdir}/${system:user.name} 替换为 “/usr/local/src/hive/tmp”目录及其子目录。

需要替换以下 4 处配置内容:

7)在 Hive 安装目录中创建临时文件夹 tmp。

至此,Hive 组件安装和配置完成。

4.初始化 hive 元数据

(1)将 MySQL 数据库驱动(/opt/software/mysql-connector-java-5.1.46.jar)拷贝到 Hive 安装目录的 lib 下。

(2)重新启动 hadooop 。

(3)初始化数据库。

(4)启动 hive。

大功告成!实验结束。

  • 46
    点赞
  • 28
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值