集群分发脚本xsync
scp(secure copy)安全拷贝
scp可以实现服务器与服务器之间的数据拷贝(from server1 to server2)。
基本语法
scp -r p d i r / pdir/ pdir/fname u s e r @ h a d o o p user@hadoop user@hadoophost: p d i r / pdir/ pdir/fname 命令 递归 要拷贝的文件路径/名称 目的用户@主机:目的路径/名称
发送
#在hadoop上,将hadoop中/opt/module目录下的软件拷贝到hadoop102上
#需要输入Hadoop102root用户的密码
scp -r /opt/module/ root@hadoop102:/opt/module/
拉取
#在hadoop101上,将hadoop服务器上的/opt/module目录下的软件拷贝到hadoop101上
sudo scp -r atguigu@hadoop:/opt/module root@hadoop101:/opt/module
控制
#在hadoop102上,将hadoop上的/opt/software复制到hadoop101上/opt/software
scp -r root@hadoop:/opt/software root@hadoop101:/opt/software
#拷贝过来的/opt/module目录,别忘了在hadoop101、hadoop102上修改所有文件的,所有者和所有者组
sudo chown atguigu:atguigu -R /opt/module
练习
#将hadoop中/etc/profile文件拷贝到hadoop101的/etc/profile上
sudo scp /etc/profile root@hadoop101:/etc/profile
#将hadoop中/etc/profile文件拷贝到hadoop102的/etc/profile上
sudo scp /etc/profile root@hadoop102:/etc/profile
#在hadoop101和hadoop102上使用以下命令,就配置好java和hadoopd的环境变量了
source /etc/profile
rsync 远程同步工具
rsync 拷贝有差异的文件
,rsync主要用于备份和镜像。具有速度快、避免复制相同内容和支持符号链接的优点。
rsync和scp区别:
用rsync做文件的复制要比scp的速度快,rsync只对差异文件做更新。scp是把所有文件都复制过去。基本语法
rsync -rvl p d i r / pdir/ pdir/fname u s e r @ h a d o o p user@hadoop user@hadoophost: p d i r / pdir/ pdir/fname 命令
选项参数 要拷贝的文件路径/名称 目的用户@主机:目的路径/名称
参数说明
-r 递归 -v 显示复制过程 -l 拷贝符号连接
案列
#将hadoop上的/opt/software同步到hadoop101上/opt/software
rsync -rvl /opt/software/ atguigu@hadoop101:/opt/software
xsync集群分发脚本
需求:循环复制文件到所有节点的相同目录下
#如果将xsync放到/home/atguigu/bin目录下仍然不能实现全局使用,可以将xsync移动到/usr/local/bin目录下 touch xsync chmod 777 xsync vi xsync
$#这个变量代表命令行中所有参数的个
basename [pathname] [suffix]
- 返回完整路径最后 / 的部分,常用于获取文件名
dirname [string] [suffix]
- 返回完整路径最后 / 的前面的部分,常用于返回路径部分
#!/bin/bash
#第一步:获取输入参数个数,如果没有参数,直接退出
pcount=$#
if((pcount==0)); then
echo no args;
exit;
fi
#2 获取文件名称
p1=$1
fname=`basename $p1`
echo fname=$fname
#3 获取上级目录到绝对路径 -P进入的是实际路径
pdir=`cd -P $(dirname $p1); pwd`
echo pdir=$pdir
#4 获取当前用户名称
user=`whoami`
#5 循环
for((host=101; host<103; host++))
do
echo ------------------- hadoop$host --------------
rsync -rvl $pdir/$fname $user@hadoop$host:$pdir
done