hadoop hive集群_基于伪分布式Hadoop搭建Hive平台详细教程

一、搭建环境的前提条件

  环境:Linux系统

  Hadoop-2.6.0

  MySQL 5.6

  apache-hive-2.3.7

  这里的环境不一定需要和我一样,基本版本差不多都ok的,所需安装包和压缩包自行下载即可。但是注意hive和hadoop都是2.x系列版本的。

  这里提供一个我下载的hive版本的链接,读者有需要可以自取:http://mirror.bit.edu.cn/apache/hive/hive-2.3.7/

  这里需要提前搭建好hadoop环境和MySQL环境,具体可以看我的博客链接:Hadoop2.0伪分布式平台环境搭建Linux环境下MySQL 5.6安装与配置----亲测有效----纯离线安装

二、搭建的详细步骤

1.使用mysql来存储hive元数据

  将hive下载完成后解压到指定目录下,注意这里的3.1版本改成我们前面的2.3版本即可。 

8676103c02a00dbf95262c0e8270e4ce.png

  登录mysql

04dc842ec46805d9aecdecfb2c280123.png

  建立hive用户

16a3b4db77f5b8c81ae3795b9a5d3019.png

  赋予hive用户足够权限

3292b1bd892d759fec48e042dd89f0aa.png

  刷新mysql的系统权限相关表

7eadcacebf785e5e56c88a76486db37e.png

  重启mysql服务,注意:这里需要使用 service mysqld restart 这个命令

b5b2d3ff6bf9860f8390423510fe0acf.png

  使用hive用户登录mysql

2651b1cfb537f4f3b2550f413afa2006.png

  创建Hive专用元数据库

57fba2af901a743fc0d3669e653b9cbe.png

2.配置hive

  创建配置文件hive-site.xml

11a1d48c6802c870be720a33c4f0600d.png

  在xml输入以下内容,这里面的password是刚才创建hive用户的密码,我这里是123456

cda9d558da5abb943a25531d534f60d7.png

  把mysql的jdbc驱动包复制到hive的lib目录下,下载网址https://dev.mysql.com/downloads/connector/j/,读者如有需要可联系我私发。

1dd394c394b50141e04c921ad500285a.png

  hive初始化

725878f4542ce39f96e89468af98c6b1.png

  初始化的结果

c19ecee94d1d3cc4c5d9d09adb4c0336.png

  配置PATH环境变量进入profile文件

277ab79bb961998537e34e50bfb22ea2.png

  输入以下内容

b655a8874ac5977ee46c9818f9e87aba.png

  修改配置文件hive-env.sh ,执行以下命令

18f2777cbadcb6bd632ddddcf2f7c240.png

  在hive-env.sh添加以下内容,这里的jdk与hadoop版本视自己本身情况而定。

0eb1069cd3d76a31a9be18b9710b77d4.png

3.启动hive

  先开启hadoop集群,使用jps查看是否开启

e338fa8f537d7f7ddcb3bab7c4db6bbd.png

  启动hive

2b25f68b670975950f20811836124155.png

  在Hive中创建表student

b3ba51096defeb0886b8c2b983f12508.png

  关闭hive的话使用exit;即可

hive>exit;

  使用mysql查看

74049e91b79371fbd050847640e0d721.png

  显示hive数据库中的数据表

d83ae90e8c54a7e885fcf6e264262cdc.png

  查看hive的元数据信息

bc62903db5009e0ff135e2ae4a553266.png

7ceb2bca0e0708285e8c2bd73fc6eb0d.png

三、总结

  我这篇博文是基于MySQL和Hadoop伪分布式搭建的一个hive平台,在搭建的过程中也遇到了一些问题,也请教了一些同事,最终成功搭建出来了,希望这篇博文能够对各位有所帮助。

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值