hadoop大数据集群搭建(二)超级保姆式教学

前情回顾

在上一篇章中我们配置了虚拟机及克隆了另外两台虚拟机, 并为三台虚拟机都配置了静态IP网络和主机名。同时也为我们的Windows主机和Linux的三台主机都配置了IP映射。

本章将完成集群的搭建

  • 我们需要完成的有:
  1. 关闭防火墙
  2. 集群之间的免密登录
  3. 完成集群的时间同步问题
  4. 安装MySQL
  5. 安装JDK
  • 下章(hadoop集群搭建)预告
  1. 安装hadoop软件
  2. 修改hadoop配置文件
  3. hadoop集群的搭建/启动/关闭与体验
  4. (选读)介绍hadoop配置文件增加的非常规配置

实际开发中应该配, 但是没有也可以运行, 本文已配置
截止至本文修改日期, 终章已完成https://blog.csdn.net/qianyu_123456/article/details/127092755?spm=1001.2014.3001.5501

如果本文对您有帮助, 请点赞或评论支持一下

关闭防火墙

  1. 打开虚拟机及远程连接工具CRT, CRT打开交互窗口(没安装的可以去看看我上一篇文章)在这里插入图片描述
    在这里插入图片描述
  2. 右键选择发送到所有会话在这里插入图片描述
  3. 关闭防火墙及开机自启
#查看防火墙状态
systemctl status firewalld

#关闭防火墙
systemctl stop firewalld

#关闭防火墙开机自启动
systemctl disable firewalld

操作图示:

  • 关闭防火墙
    在这里插入图片描述
  • 关闭开机自启
    在这里插入图片描述
  • 关闭selinux服务(否则会一直提示你要开启防火墙)
vim /etc/selinux/config
SELINUX=disabled
  • 操作提示:
    在这里插入图片描述
    修改配置文件, 三台主机都需要!!!, 这里只演示了一台主机:
    在这里插入图片描述
  • 需要重启生效
    在这里插入图片描述

集群之间的免密登录

  • 至少打通qianyu1---->qianyu1 qianyu2 qianyu3 这三个免密登录
  • 本博主完成的是三台主机互相免密登录, 操作部分展现其中一台, 其余两台操作相同
  • 在qianyu1, qianyu2, qianyu3生成公钥私钥
ssh-keygen

一路回车(Enter键), 在当前用户的home下生成公钥私钥, 隐藏文件
在这里插入图片描述
qianyu1的效果图(2,3同):
在这里插入图片描述

  • 三台主机均配置(分别执行以下命令)
ssh-copy-id qianyu1
ssh-copy-id qianyu2
ssh-copy-id qianyu3

成功后我们先来验证一下免密登录吧!
在这里插入图片描述
这样就没问题了

完成集群的时间同步问题

  • 我们为什么要配置?
  • 答: 分布式软件主从角色之间通常基于心跳时间差来判断角色工作是否正常
  • 查看当前的系统时间 也可以手动指定设置时间 不精准
[root@qianyu1 ~]# date

配置同步阿里云授时器
在这里插入图片描述

安装MySQL

  • 本教程软件安装目录规范
    /export/server #软件安装目录
    /export/software #安装包的目录
    /export/data #软件运行数据保存的目录
    /export/logs #软件运行日志
mkdir -p /export/server
mkdir -p /export/software 
mkdir -p /export/data
mkdir -p /export/logs

操作演示:
在这里插入图片描述

安装方法千千万, 这里用的是较为原始的安装方式
基于rpm安装MySQL,安装在qianyu1服务器即可

  • 卸载Centos7自带的mariadb(如果不卸载会和mysql中的mariadb包发生冲突)
rpm -qa|grep mariadb # 这行代码是查看的

操作演示:

rpm -e mariadb-libs-5.5.64-1.el7.x86_64 --nodeps

在这里插入图片描述

创建目标目录:

mkdir /export/software/mysql

在这里插入图片描述

  • 上传mysql-5.7.29-1.el7.x86_64.rpm-bundle.tar 到上述文件夹下 解压
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    解压完成:
    在这里插入图片描述
  • 下面输入一行很长的代码来安装:
rpm -ivh mysql-community-common-5.7.29-1.el7.x86_64.rpm mysql-community-libs-5.7.29-1.el7.x86_64.rpm mysql-community-client-5.7.29-1.el7.x86_64.rpm mysql-community-server-5.7.29-1.el7.x86_64.rpm 

在这里插入图片描述
安装完成:
在这里插入图片描述

  • mysql初始化设置

初始化
mysqld --initialize
更改所属组
chown mysql:mysql /var/lib/mysql -R
启动mysql
systemctl start mysqld.service
查看生成的临时root密码 (用于第一次登录mysql 我们进入后立即修改密码)
cat /var/log/mysqld.log

  • 注意(非常重要!!!非常重要!!!非常重要!!!):
  1. 在“root@localhost: ”这一段中":"后有一个空格,这个不要复制
  2. 使用密文输入密码
  3. 后边换行之前的所有内容都要
  • 下面开始演示

mysqld --initialize
chown mysql:mysql /var/lib/mysql -R
systemctl start mysqld.service

在这里插入图片描述

cat  /var/log/mysqld.log

在这里插入图片描述
在这里可以看到我的临时密码是pZyd:Egr?7fp
注意: 每个人生成的密码都不同

  • 修改root密码 授权远程访问 设置开机自启动
mysql -u root -p

在这里插入图片描述

  • 更新root密码 设置为hadoop
alter user user() identified by "hadoop";

在这里插入图片描述

  • 授权
use mysql;
GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY 'hadoop' WITH GRANT OPTION;
FLUSH PRIVILEGES; 
exit

在这里插入图片描述

  • mysql的启动和关闭 状态查看 (这几个命令必须记住)
systemctl stop mysqld
systemctl status mysqld
systemctl start mysqld
  • 建议设置为开机自启动服务(一般默认开启, 不放心可以自己开启)
systemctl enable  mysqld
  • 查看是否已经设置自启动成功
systemctl list-unit-files | grep mysqld

在这里插入图片描述
到这里我们就安装好MySQL了

安装JDK

  • 基本上绝大多数大数据服务都是用java开发的,想要运行该服务,必须在电脑上安装java环境

  • 简单:解压即可使用 但是通常配置环境变量,以便于在各个路径下之间使用java。

  • 要求:JDK1.8版本

  • 操作演示:

  • 上传安装包到/export/software下
    在这里插入图片描述
    在这里插入图片描述

  • 进入到 /export/software目录下:

cd /export/software

在这里插入图片描述

  • #解压到server目录下:
tar -zxvf jdk-8u65-linux-x64.tar.gz -C ../server/

在这里插入图片描述

  • 配置环境变量:
vim /etc/profile

在这里插入图片描述

# java环境变量配置
export JAVA_HOME=/export/server/jdk1.8.0_65
export PATH=$PATH:$JAVA_HOME/bin
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

在这里插入图片描述

  • 重新source环境变量文件 让配置生效:
source /etc/profile

在这里插入图片描述

  • 检查配置是否成功
java -version

在这里插入图片描述

  • 将qianyu1的JDK安装包scp给qianyu2和qianyu3
 cd /export/server/
 scp -r jdk1.8.0_65/ root@qianyu2:$PWD
 scp -r jdk1.8.0_65/ root@qianyu3:$PWD
 scp /etc/profile qianyu2:/etc/
 scp /etc/profile qianyu3:/etc/
 source /etc/profile

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

  • source环境变量三台虚拟机
 source /etc/profile

在这里插入图片描述
到这里三台虚拟机的jdk就已经配置好了, 也可以自己去另外两台虚拟机检查一下
- 建议一个章节拍摄一个虚拟机快照, 以便操作失误造成不可逆后果回退
终章链接: https://blog.csdn.net/qianyu_123456/article/details/127092755?spm=1001.2014.3001.5501

非常感谢您的观看, 如有帮助麻烦您动动小手点个赞, 对我真的很有帮助, 谢谢!!!

  • 4
    点赞
  • 0
    收藏
  • 打赏
    打赏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
©️2022 CSDN 皮肤主题:1024 设计师:我叫白小胖 返回首页
评论 1

打赏作者

浅语27

你的鼓励将是我创作的最大动力

¥2 ¥4 ¥6 ¥10 ¥20
输入1-500的整数
余额支付 (余额:-- )
扫码支付
扫码支付:¥2
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、C币套餐、付费专栏及课程。

余额充值