hadoop伪分布环境搭建

1.hadoop的伪分布安装
1.1 设置ip地址
执行命令 service network restart
验证: ifconfig
1.2 关闭防火墙
执行命令 service iptables stop
验证: service iptables status
1.3 关闭防火墙的自动运行
执行命令 chkconfig iptables off
验证: chkconfig --list | grep iptables
1.4 设置主机名
执行命令 (1)hostname chaoren
(2)vi /etc/sysconfig/network
1.5 ip与hostname绑定
执行命令 vi /etc/hosts
验证: ping chaoren
1.6 设置ssh免密码登陆
执行命令 (1)ssh-keygen -t rsa
(2)cp ~/.ssh/id_rsa.pub ~/.ssh/authorized_keys
验证: ssh chaoren
1.7 安装jdk
执行命令 (1)cd /usr/local
(2)chmod u+x jdk-6u24-linux-i586.bin
(3)./jdk-6u24-linux-i586.bin
(4)mv jdk-1.6.0_24  jdk
(5)vi /etc/profile 增加内容如下:
export JAVA_HOME=/usr/local/jdk
export PATH=.:$JAVA_HOME/bin:$PATH
(6)source /etc/profile
验证: java -version
1.8 安装hadoop
执行命令 (1)tar -zxvf hadoop-1.1.2.tar.gz
(2)mv hadoop-1.1.2 hadoop
(3)vi /etc/profile 增加内容如下:
export JAVA_HOME=/usr/local/jdk
export HADOOP_HOME=/usr/local/hadoop
export PATH=.:$HADOOP_HOME/bin:$JAVA_HOME/bin:$PATH
(4)source /etc/profile
(5)修改conf目录下的配置文件hadoop-env.sh、core-site.xml、hdfs-site.xml、mapred-site.xml
(6)hadoop namenode -format
(7)start-all.sh
验证: (1)执行命令jps 如果看到5个新的java进程,分别是NameNode、SecondaryNameNode、DataNode、JobTracker、TaskTracker
(2)在浏览器查看,http://chaoren:50070  http://chaoren:50030  
1.9 启动时没有NameNode的可能原因:
(1)没有格式化
(2)环境变量设置错误

(3)ip与hostname绑定失败

-----------------------------------------------------自己总结补充--------------------------------------------

1、ssh免密码登陆:

ssh两台机器相互免密码登陆
A机器  B机器
A机器用户hadoop远程登陆 IP为 192.168.208.128
B机器用户hadoop远程登陆 IP为 192.168.208.129


A机器执行ssh-keygen -t rsa ,一直回车,然后执行cp id_rsa.pub private
B机器执行ssh-keygen -t rsa ,一直回车,然后执行cp id_rsa.pub private2
通过远程传输命令copy文件:
A机器执行 scp ~/.ssh/private  hadoop@192.168.208.129:~/.ssh
B机器执行 scp ~/.ssh/private2  hadoop@192.168.208.128:~/.ssh
在A机器上执行cp private2 authorized_keys
在B机器上执行cp private authorized_keys
在A机器上执行rm -rf ~/.ssh/private  rm -rf ~/.ssh/private2
在B机器上执行rm -rf ~/.ssh/private  rm -rf ~/.ssh/private2
(注意:.ssh和authorized_keys都只能本用户有w权限,g和o都不能有w权限,不然ssh免密码登陆就失败了,因为g和o有w权限的话,不安全,数字签名也不支持)


  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值