大数据技术之Hive 第2章 Hive安装 以及基本操作

2.2 MySql安装

0）为什么需要Mysql

原因在于Hive默认使用的元数据库为derby，开启Hive之后就会占用元数据库，且不与其他客户端共享数据，如果想多窗口操作就会报错，操作比较局限。以我们需要将Hive的元数据地址改为MySQL，可支持多窗口操作。

1）检查当前系统是否安装过Mysql

[wolffy@hadoop102 ~]$ rpm -qa|grep mariadb
mariadb-libs-5.5.56-2.el7.x86_64 //如果存在通过如下命令卸载
[wolffy @hadoop102 ~]$ sudo rpm -e --nodeps  mariadb-libs  //用此命令卸载mariadb

2）将MySQL安装包拷贝到/opt/software目录下

[wolffy @hadoop102 software]# ll
总用量 528384
-rw-r--r--. 1 root root 609556480 3月  21 15:41 mysql-5.7.28-1.el7.x86_64.rpm-bundle.tar

3）解压MySQL安装包

[wolffy @hadoop102 software]# tar -xf mysql-5.7.28-1.el7.x86_64.rpm-bundle.tar 

4）在安装目录下执行rpm安装

[wolffy @hadoop102 software]$ sudo rpm -ivh mysql-community-common-5.7.28-1.el7.x86_64.rpm
[wolffy @hadoop102 software]$ sudo rpm -ivh mysql-community-libs-5.7.28-1.el7.x86_64.rpm
[wolffy @hadoop102 software]$ sudo rpm -ivh mysql-community-libs-compat-5.7.28-1.el7.x86_64.rpm
[wolffy @hadoop102 software]$ sudo rpm -ivh mysql-community-client-5.7.28-1.el7.x86_64.rpm
[wolffy @hadoop102 software]$ sudo rpm -ivh mysql-community-server-5.7.28-1.el7.x86_64.rpm

注意:按照顺序依次执行

如果Linux是最小化安装的，在安装mysql-community-server-5.7.28-1.el7.x86_64.rpm时可能会出 现如下错误

[wolffy@hadoop102 software]$ sudo rpm -ivh mysql-community-server-5.7.28-1.el7.x86_64.rpm

警告：mysql-community-server-5.7.28-1.el7.x86_64.rpm: 头V3 DSA/SHA1 Signature, 密钥 ID 5072e1f5: NOKEY

错误：依赖检测失败：

​ libaio.so.1()(64bit) 被 mysql-community-server-5.7.28-1.el7.x86_64 需要

​ libaio.so.1(LIBAIO_0.1)(64bit) 被 mysql-community-server-5.7.28-1.el7.x86_64 需要

​ libaio.so.1(LIBAIO_0.4)(64bit) 被 mysql-community-server-5.7.28-1.el7.x86_64 需要

通过yum安装缺少的依赖,然后重新安装mysql-community-server-5.7.28-1.el7.x86_64 即可

[wolffy@hadoop102 software] sudo yum install -y libaio

5）删除/etc/my.cnf文件中datadir指向的目录下的所有内容,如果有内容的情况下:

查看datadir的值：

[mysqld]
datadir=/var/lib/mysql

删除/var/lib/mysql目录下的所有内容:

[wolffy @hadoop102 mysql]# cd /var/lib/mysql
[wolffy @hadoop102 mysql]# sudo rm -rf ./*   //注意执行命令的位置

6）初始化数据库

[wolffy @hadoop102 opt]$ sudo mysqld --initialize --user=mysql

7）查看临时生成的root用户的密码

[wolffy @hadoop102 opt]$ sudo cat /var/log/mysqld.log  

8）启动MySQL服务

[wolffy @hadoop102 opt]$ sudo systemctl start mysqld

9）登录MySQL数据库

[wolffy @hadoop102 opt]$ mysql -uroot -p
Enter password:  输入临时生成的密码
  登录成功.

10）必须先修改root用户的密码,否则执行其他的操作会报错

mysql> set password = password("新密码")

11）修改mysql库下的user表中的root用户允许任意ip连接

mysql> update mysql.user set host='%' where user='root';
mysql> flush privileges;

2.3 Hive安装部署

1）把apache-hive-3.1.2-bin.tar.gz上传到linux的/opt/software目录下

2）解压apache-hive-3.1.2-bin.tar.gz到/opt/module/目录下面

[wolffy@hadoop102 software]$ tar -zxvf /opt/software/apache-hive-3.1.2-bin.tar.gz -C /opt/module/

3）修改apache-hive-3.1.2-bin.tar.gz的名称为hive

[wolffy@hadoop102 software]$ mv /opt/module/apache-hive-3.1.2-bin/ /opt/module/hive

4）修改/etc/profile.d/my_env.sh，添加环境变量

[wolffy@hadoop102 software]$ sudo vim /etc/profile.d/my_env.sh

5）添加内容

#HIVE_HOME
export HIVE_HOME=/opt/module/hive
export PATH=$PATH:$HIVE_HOME/bin 

6）解决日志Jar包冲突

[wolffy@hadoop102 software]$ mv $HIVE_HOME/lib/log4j-slf4j-impl-2.10.0.jar $HIVE_HOME/lib/log4j-slf4j-impl-2.10.0.bak

2.4 Hive元数据配置到MySql

2.4.1 拷贝驱动

将MySQL的JDBC驱动拷贝到Hive的lib目录下

[wolffy@hadoop102 software]$ cp /opt/software/mysql-connector-java-5.1.27.jar $HIVE_HOME/lib

2.4.2 配置Metastore到MySql

在$HIVE_HOME/conf目录下新建hive-site.xml文件

[wolffy@hadoop102 software]$ vim $HIVE_HOME/conf/hive-site.xml

添加如下内容

<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
    <!-- jdbc连接的URL -->
    <property>
        <name