hadoop-3.2.0------>入门十 完全分布式环境搭建

一、将虚拟机全部设置为静态ip

详情查看: https://my.oschina.net/u/3535099/blog/3125614

二、将主机的host文件中添加所有子节点

命令:vi /etc/hosts

up-596ee5edc391a236dc6a693fed4c8141c48.png

三、编写集群分发脚本scp

1、scp  安全拷贝

scp定义:scp可以实现服务器之间的的数据拷贝

语法:scp -r $pdir/$fname $user@hadoop$host:$pdir/$fname

scp:命令

-r:递归

$pdir/$fname:要拷贝的文件夹路径/名称

$user@hadoop$host:$pdir/$fname:目的用户@主机/目的文件夹路径/名称

例子:将hadoop上的java文件夹拷入hadoop01(相当于hadoop主动将文件推送到hadoop01上)

up-316dd9aae14bc4dd52d30d073b53f278fd4.png

获取hadoop上的java文件夹并拷入hadoop02(相当于hadoop02从hadoop中拉取这个文件)

注意:hadoop的主机名称及ip需要在hadoop02的/etc/hosts文件中进行配置(如第二步配置)

图中的./代表拉取到当前目录中

up-47bb0311d10cddda682687e11f54d07fe35.png

四、编写集群分发脚本rsync

1、rsync远程同步工具

rsync主要用于备份和镜像。具有速度快、避免复制相同内容和支持符号连接的优点。

2、rsync和scp的区别:用rsync做文件的复制要比scp速度快,rsync只做差异文件更新,scp是将所有文件复制过去

3、语法:rsync  -rvl $pdir/$fname $user@hadoop$host:$pdir/$fname

rsync :命令

-rvl:选项参数

$pdir/$fname:要拷贝的文件夹路径/名称

$user@hadoop$host:$pdir/$fname:目的用户@主机/目的文件夹路径/名称

4、选项参数说明:

-r:递归

-v:显示复制过程

-l:拷贝符号连接

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

半夜燃烧的香烟

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值