1. hadoop搭建修改ip,修改ip、主机名
#!/bin/bash
# This is a shell script to change hostname
# version 0.1
# Created in 2020.05.10
# Creator Jakie
export PATH=$PATH
export USER=root
export SNAMEPRE=hadoop
export PASSWD=root #定义密码
sed -i s/^HOST.*/HOSTNAME="$SNAMEPRE"10"$1"/ /etc/sysconfig/network
sed -i s/^IPADDR=.*/IPADDR=192.168.5.10$1/ /etc/sysconfig/network-scripts/ifcfg-eth0
sed -i "/eth0/d" /etc/udev/rules.d/70-persistent-net.rules
sed -i s/eth1/eth0/ /etc/udev/rules.d/70-persistent-net.rules
rules
reboot
2.免密登录配置
ssh-keygen -t rsa
ssh-copy-id hadoop101
3. rz命令安装
yum -y install lrzsz
4. 主机间文件同步分发
#!/bin/bash
#1 获取输入参数个数,如果没有参数,直接退出
pcount=$#
if ((pcount==0)); then
echo no args;
exit;
fi
#2 获取文件名称
p1=$1
fname=`basename $p1`
echo fname=$fname
#3 获取上级目录到绝对路径
pdir=`cd -P $(dirname $p1); pwd`
echo pdir=$pdir
#4 获取当前用户名称
user=`whoami`
#5 循环
for((host=102; host<104; host++)); do
echo ------------------- hadoop$host --------------
rsync -av $pdir/$fname $user@hadoop$host:$pdir
done
5. 下载jdk、hadoop的对应操作系统版本
hadoop运行以来jdk,解压到服务器,使用vim /etc/profile添加如下信息
#JAVA_HOME
export JAVA_HOME=/opt/module/jdk1.8.0_144
export PATH=$PATH:$JAVA_HOME/bin
##HADOOP_HOME
export HADOOP_HOME=/opt/module/hadoop-2.7.2
export PATH=$PATH:$HADOOP_HOME/bin
export PATH=$PATH:$HADOOP_HOME/sbin
6.使用root用户分发/etc/profile、普通用户分发hadoop、jdk软件包后,执行一下验证脚本
mkdir input
cp etc/hadoop/*.xml input
bin/hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.2.jar grep input output 'dfs[a-z.]+'
cat output/*
7.配置ntp时间同步服务
后面不总结了,太累了写的