hadoop大数据集群搭建(一)超级保姆式教学

大数据集群环境搭建

一. 什么是集群?分布式又是个啥?

  1. 分布式:多台不同的服务器中部署不同的服务模块,通过远程调用协同工作,对外提供服务。
  2. 集群:多台不同的服务器中部署相同应用或服务模块,构成一个集群,通过负载均衡设备对外提供服务。
  3. 是不是有点不太好理解?咱举一个小例子:
    你开了一家高级饭店, 招了很多员工:你给他们分配好了很多部门和岗位,餐饮方面(模块)有好几个厨师在做, 迎宾方面(模块)有好几个服务员在做,保洁(模块)有几个保洁阿姨在做。他们之间只在各自的部门完成自己的工作。但所有人的工作维持了你饭店的运转。这就是分布式
  4. 那什么是集群嘞?咱再举一个小例子:
    你和你的对象开了一家小饭馆,平时工作主要由你们两个(模块)来做,炒菜做饭采购收银都不指定必须哪个人做,谁有空谁做,共同完成这个店的经营。这就是集群

二. 虚拟机的安装与网络配置(已经配置的可以跳过到下一节)

- 建议一个章节拍摄一个虚拟机快照, 以便操作失误造成不可逆后果回退

  • 这里我选择演示的是VMware 16 Pro,Centos OS7,以NAT地址网络转换配置虚拟机。
  • 使用NAT模式的好处

使用NAT模式, 因为我们更换网络环境后, 主机的ip地址会随时变化, 如果我们使用桥接模式, 就需要频繁更换我们绑定的ip地址, 如果我们使用仅主机模式, 虚拟机无法上网

VMware配置流程

「软件」https://www.aliyundrive.com/s/gzKbbrJn3mu 提取码: i9x5
点击链接保存,或者复制本段内容,打开「阿里云盘」APP
百度网盘链接:https://pan.baidu.com/s/1Ko8TNz1VfEKS6BYQpDjEuA
提取码:uk0p
这里面有着虚拟机及hadoop等配套软件, 仅供学习使用!!!

NAT网络配置部分

  1. 打开虚拟网络编辑器
    在这里插入图片描述
  2. 开启更改设置

在这里插入图片描述

  1. 选择VMNet8, 修改子网ip和子网掩码, 设置网关ip点击确定在这里插入图片描述
  2. 修改DHCP服务,规定IP的范围在这里插入图片描述
  3. 打开网络连接设置在这里插入图片描述
  4. 打开VMnet8的属性信息,找到ipv4协议,修改其属性及里面的配置信息在这里插入图片描述

虚拟机安装部分

  1. 右键选择创建虚拟机
    在这里插入图片描述

  2. 选择自定义虚拟机

在这里插入图片描述

  1. 选择自己的vmware版本, 我这里用的是16
    在这里插入图片描述
    4 . 选择稍后安装系统
    在这里插入图片描述
  2. 选择虚拟机版本, 这里我使用的是centos7 大家根据自己有的版本选择在这里插入图片描述
    6 . 选择一个安装目录并写上虚拟机名称
    在这里插入图片描述
  3. 分配计算机资源(可按需分配)

在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述
8. 选择新建虚拟机磁盘
在这里插入图片描述
9. 选择将虚拟磁盘拆分为多个磁盘(根据自己实际情况配置磁盘容量)在这里插入图片描述
10. 这样裸机就配置好啦
在这里插入图片描述在这里插入图片描述

  1. 配置当前虚拟机启动时运行iso镜像文件,这个文件相当于centos的安装包在这里插入图片描述

  2. 点击启动
    在这里插入图片描述

  3. 点击启动虚拟机点击install ,稍等片刻即可进入安装界面在这里插入图片描述

  4. 选择安装过程语言, 萌新中文即可在这里插入图片描述

  5. 软件选择基本网页服务器(默认最小安装)在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述

  6. 进行网络配置,先修改主机名称,再打开以太网,然后点击配置在这里插入图片描述

  7. 配置ipv4的相关信息(后面配置多台虚拟机静态网络的时候为了方便记忆我再次修改了一下)在这里插入图片描述在这里插入图片描述

  8. 点击确定进入安装界面,在安装界面中设置root用户的密码,如果密码过于简单,则点击两次完成即可在这里插入图片描述在这里插入图片描述在这里插入图片描述

  9. 完成以上操作恭喜你已经安装完成了!(已配置动态网络, 需要静态网络看后面操作部分)

Linux远程连接(CRT 是一种ssh远程连接工具)

  • 连接操作
    在这里插入图片描述
    选择接受并保存

在这里插入图片描述

在这里插入图片描述

  • 配置CRT
    右键选择会话窗口

在这里插入图片描述在这里插入图片描述在这里插入图片描述

三. 虚拟机克隆

  • 前提:是虚拟机处于关闭状态。
  • 完整克隆意味着两台机器一模一样。在局域网网络中,有些属性是决定不能一样的。
    比如:IP、MAC、主机名hostname

ip相同,则两台主机都无法连接网络
mac地址相同则都无法分配ip或者ip混乱
hostname 相同则无法区分主机

  • 操作如下:在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述
    在这里插入图片描述

四. 修改IP、主机名

配置虚拟机的主机名和ip地址

请注意, 刚开始安装的时候我安装的是qianyu, IP地址是192.168.88.105
单为了记忆方便, 修改了主机名和IP地址, 三台主机的主机名和IP地址如下所示
这里展示qianyu1的配置(IP: 192.168.88.111),
另外两台虚拟机修改方式雷同:

hostname: qianyu2
IP: 192.168.88.112

hostname: qianyu3
IP: 192.168.88.113

  • 修改主机名:

vim /etc/hostname
下面是修改内容:
qianyu1

  • 修改ip为静态:

vim /etc/sysconfig/network-scripts/ifcfg-ens33
下面是修改内容:
TYPE=“Ethernet” #网卡类型 以太网
PROXY_METHOD=“none”
BROWSER_ONLY=“no”
BOOTPROTO=“none” #ip等信息是如何决定的? dhcp动态分配、 static|none 手动静态分配
DEFROUTE=“yes”
IPV4_FAILURE_FATAL=“no”
IPV6INIT=“yes”
IPV6_AUTOCONF=“yes”
IPV6_DEFROUTE=“yes”
IPV6_FAILURE_FATAL=“no”
IPV6_ADDR_GEN_MODE=“stable-privacy”
NAME=“ens33” #网卡名称
UUID=“350d2402-1f3a-4b8e-b294-33a7fab82084”
DEVICE=“ens33”
ONBOOT=“yes” #是否开机启动网卡服务
IPADDR=“192.168.88.111” #IP地址
PREFIX=“24” #子网掩码 等效: NETMASK=255.255.255.0
GATEWAY=“192.168.88.2” #网关服务
DNS1=“8.8.8.8” #网关DNS解析
DOMAIN=“114.114.114.114” #公网DNS解析 114.114.114.114 谷歌:8.8.8.8 阿里百度DNS
IPV6_PRIVACY="no

  • 主机名和IP映射配置(qianyu2和qianyu3也是如下配置)

vim /etc/hosts
增加如下内容:
192.168.88.111 qianyu1
192.168.88.112 qianyu2
192.168.88.113 qianyu3

  • 十分建议配置一下Windows和虚拟机的IP映射
  • C:\Windows\System32\drivers\etc\hosts
  • 增加如下内容:

192.168.88.111 qianyu1
192.168.88.112 qianyu2
192.168.88.113 qianyu3

集群搭建和hadoop安装部分将在后面篇章讲解

如果对您有用的话, 请您动动小手, 点赞或者评论一下, 非常感谢您的支持!

  • 4
    点赞
  • 1
    收藏
  • 打赏
    打赏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
©️2022 CSDN 皮肤主题:1024 设计师:我叫白小胖 返回首页
评论 1

打赏作者

浅语27

你的鼓励将是我创作的最大动力

¥2 ¥4 ¥6 ¥10 ¥20
输入1-500的整数
余额支付 (余额:-- )
扫码支付
扫码支付:¥2
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、C币套餐、付费专栏及课程。

余额充值