hive3.0.0搭建记录

Mysql

查看是否安装过MySQL ```yum list installed mysql* ``` 或 rpm -qa | grep mysql*

安装前先删除Mysql相关的文件和包
```yum -y remove mysql-libs*

安装mysql客户端:
	```yum install mysql
	```
安装mysql 服务器端:
yum install mysql-server yum
yum install mysql-devel
```

启动&&停止 数据库字符集设置?
vi /etc/my.cnf
在最后加入
default-character-set=utf8

启动mysql服务:
/etc/init.d/mysqld start
开机启动:
chkconfig --add mysqld
chkconfig mysqld on
查看开机启动设置是否成功
chkconfig --list | grep mysql*
应为:mysqld 0:off 1:off 2:on 3:on 4:on 5:on 6:off

登录 创建root管理员:
mysqladmin -u root password monkey

HIVE

注:在使用时若要连接HDFS/SQL,则需要从相关程序lib文件夹下导入相应jar包
mysql:mysql-connector-java-5.1.28.jar;HDFS:share/hadoop下common和hdfs文件夹内所有

  • 以ROOT身份进入数据库

创建hadoop用户
mysql>grant all on . to hive@’%’ identified by ‘hive’;
mysql>grant all on . to hive@‘localhost’ identified by ‘hive’;
mysql>grant all on . to hive@‘master’ identified by ‘hive’; 'master1’是当前节点的网络名
mysql>flush privileges;
创建数据库
create database hivemeta;
退出

  • 解压到家目录
    tar -zxvf hive-2.3.4

  • 目录切换到 $hive/conf
    执行如下操作
    cp hive-env.sh.template hive-env.sh
    cp hive-default.xml.template hive-site.xml
    cp hive-log4j2.properties.template hive-log4j2.properties
    cp hive-exec-log4j2.properties.template hive-exec-log4j2.properties

  • 修改 hive-env.sh 文件

export JAVA_HOME
export HADOOP_HOME
export HIVE_HOME
export HIVE_CONF_DIR=$HIVE_HOME/conf

注:全局模式变量配置
环境变量使用ROOT用户配置在/etc/profile.d/目录下,
在这里插入图片描述
每次添加环境变量写一个独立的.sh 文件即可
实例

#java.sh

export JAVA_HOME=/usr/java/jdk1.8.0_144

export PATH=$PATH:$JAVA_HOME/bin:$JAVA_HOME/jre/bin

export CLASSPATH=.:$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib

#ZOOKEEPER
export ZOOKEEPER_HOME=/opt/modules/zookeeper-3.4.11
export PATH=$ZOOKEEPER_HOME/bin:$PATH

#HIVE
export HIVE_HOME=/opt/modules/hive-3.0.0
export PATH=$PATH:$HIVE_HOME/bin

写好之后
source /etc/profile
激活环境变量就可以正常使用

  • 在hdfs中创建目录,并授权,用于存储文件
  • 启动hadoop
hdfs dfs -mkdir -p /user/hive/warehouse
hdfs dfs -mkdir -p /user/hive/tmp
hdfs dfs -mkdir -p /user/hive/log
hdfs dfs -chmod -R 777 /user/hive/warehouse
hdfs dfs -chmod -R 777 /user/hive/tmp
hdfs dfs -chmod -R 777 /user/hive/log

hdfs dfs -chmod -R 777 /user
  • 修改hive-site.xml
<property>
    <name>hive.exec.scratchdir</name>
    <value>/user/hive/tmp</value>
</property>

【在hive-site.xml文件中添加如下配置信息,就可以实现显示当前数据库,以及查询表的头信息配置。】
<property>
	<name>hive.cli.print.header</name>
	<value>true</value>
</property>

<property>
	<name>hive.cli.print.current.db</name>
	<value>true</value>
</property>

<property>
    <name>hive.metastore.warehouse.dir</name>
    <value>/user/hive/warehouse</value>
</property>

<property>
    <name>hive.querylog.location</name>
    <value>/user/hive/log</value>
</property>

<name>hive.exec.local.scratchdir</name>
<value>/opt/modules/apache-hive-2.3.4-bin/tmp/Hive_jobs</value>

<name>hive.server2.logging.operation.log.location</name>
<value>/opt/modules/apache-hive-2.3.4-bin/tmp/operation_logs</value>


<name>hive.downloaded.resources.dir</name>
<value>/opt/modules/hive-3.0.0/tmp/resources</value>

<property>
<name>javax.jdo.option.ConnectionURL</name>
<value>jdbc:mysql://master:3306/hivemeta?characterEncoding=UTF-8</value>
			[#master:3306    网络             hivemeta 数据库名]
</property>
<property>
<name>javax.jdo.option.ConnectionDriverName</name>
<value>com.mysql.jdbc.Driver</value>
</property>
<property>
<name>javax.jdo.option.ConnectionUserName</name>
<value>hive</value>
</property>
<property>
<name>javax.jdo.option.ConnectionPassword</name>
<value>hive</value>
</property>
</configuration>

  • 修改hive的log日志存放位置
    (1)修改/opt/module/hive/conf/hive-log4j.properties.template文件名称为hive-log4j.properties
    (2)在hive-log4j.properties文件中修改log存放位置
    hive.log.dir=/opt/module/hive-3.0.0/logs

  • 添加JAVA连接包到依赖库中:
    cp mysql-connector-java-5.1.28.jar ~/apache-hive-1.2.1-bin/lib/

  • 初始化 hive
    schematool -dbType mysql -initSchema
    发现包冲突

删掉 冲突目录下的jar 包 (同名冲突仍以删除一个即可)

【如果还不行就删掉hivemeta数据库】

  • 重新运行初始化命令

  • 启动HIVE
    hive

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值