Linux系统虚拟机下HDFS及HA HDFS的搭建

本文档详述了在Linux系统虚拟机中搭建HDFS和高可用(HA) HDFS的步骤,包括创建HADOOP用户、配置防火墙、同步时间、设置主机名、配置内网域名映射、ssh免密登录、安装JDK和HADOOP、修改配置文件、安装Zookeeper以及处理HA HDFS中的ClusterID一致性问题。
摘要由CSDN通过智能技术生成

Hadoop下载地址提取码见文末

Linux系统虚拟机下HDFS及HA HDFS的搭建

1.普通HDFS的搭建

1.1添加HADOOP用户

在root用户权限下执行下列命令

useradd hadoop

passwd hadoop (然后输入密码)

1.2为HADOOP用户分配sudoer权限

1.切换到root用户下

2.添加sudo文件的写权限,命令是:
chmod u+w /etc/sudoers

3.编辑sudoers文件
vi /etc/sudoers
找到这行 root ALL=(ALL) ALL,在他下面添加xxx ALL=(ALL) ALL (这里的xxx是你的用户名)

ps:这里说下你可以sudoers添加下面四行中任意一条
youuser            ALL=(ALL)                ALL
%youuser           ALL=(ALL)                ALL
youuser            ALL=(ALL)                NOPASSWD: ALL
%youuser           ALL=(ALL)                NOPASSWD: ALL

第一行:允许用户youuser执行sudo命令(需要输入密码).
第二行:允许用户组youuser里面的用户执行sudo命令(需要输入密码).
第三行:允许用户youuser执行sudo命令,并且在执行的时候不输入密码.
第四行:允许用户组youuser里面的用户执行sudo命令,并且在执行的时候不输入密码.

4.撤销sudoers文件写权限,命令:
chmod u-w /etc/sudoers

这样普通用户就可以通过使用sudo执行root权限,注意一定要用sudo执行命令,不然许多命令不起作用且不会提示错误.

接下来的操作均需要在hadoop用户下操作(最好)

1.3配置防火墙

关闭防火墙,且设置为开机自动关闭
	service iptables stop 
	chkconfig iptables off

1.4同步时间

1.检查ntp是否安装,如果未安装,则安装.服务器上需要安装ntp服务,同步机器上只要安装ntpdate
	安装ntp
	yum list | grep ntp
	yun install -y ntp.x86_64
	安装ntpdate
	yum list | grep ntpdate
	yum install -y ntpdate.x86_64

服务器端:
2.启动ntpd服务,且设置为开机自启
	service ntpd start 
	chkconfig ntpd on
	
3.在namenode上配置时间服务
	1.vi /etc/ntp.conf
	2.restrict 192.168.1.0 mask 255.255.255.0 nomodify notrap //给于局域网机的机器有同步时间的权限
	3.禁用自带的4个server
	4.重新启动一个服务server 127.127.1.0//本机服务

4.修改完ntp配置后,需要重启ntpd
	service ntpd restart
	服务启动需要5分钟,如果期间同步时间,会报错误:
	no server suitable for synchronization found
	
客户端:
5.同步时间
	ntpdate hp01
	
6.修改配置文件
	主要因为默认不允许非终端执行sudo
	找到/etc/sudoers
	#
    # Disable "ssh hostname sudo <cmd>", because it will show the password in clear. 
    #         You have to run "ssh -t hostname sudo <cmd>".
    #
    #Defaults    requiretty

    #
    # Refuse to run if unable to disable echo on the tty. This setting should also be
    # changed in order to be able to use
  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值