hadoop
Leslie_mc
这个作者很懒,什么都没留下…
展开
-
hadoop运行模式(伪分布式)——启动HDFS并运行Mapreduce
0.伪分布式:只有一个节点的分布式(主要通过配置伪分布式了解分布式需要配饰的文件及步骤)启动HDFS并运行Mapreduce 1.1 配置集群(配置文件的目录-/opt/module/hadoop-2.7.2/etc/hadoop)export JAVA_HOME=/opt/module/jdk1.8.0_1441.1.2 配置core-site.xml(主要高速hadoop运行运行模...原创 2020-10-08 16:15:04 · 386 阅读 · 0 评论 -
Hadoop的运行模式(伪分布式)——启动YARN并且运行MapReduce程序
启动YARN并且运行MapReduce程序1.配置集群(配置文件的目录-/opt/module/hadoop-2.7.2/etc/hadoop)1.1 配置yarn-env.sh (JAVA_HOME)export JAVA_HOME=/opt/module/jdk1.8.0_1441.2 配置yarn-site.xml<configuration> <!-...原创 2020-10-08 16:14:55 · 423 阅读 · 0 评论 -
hadoop运行模式(完全分布式)——xsync集群分发脚本
在此之前,要将映射ip与主机写入 /etc/hosts文件(根据自己需要写入)xsync集群分发脚本需求:循环复制文件到所有节点的相同目录下需求分析:(a)rsync命令原始拷贝: rsync -rvl /opt/module root@hadoop12:/opt/(b)期望脚本: xsync要同步的文件名称(c)我们将xsync脚本创...原创 2020-10-08 16:15:14 · 912 阅读 · 0 评论 -
Hadoop集群群起操作
1.完成虚拟机ssh免密设置,见ssh免密设置2.将hadoop13(设置免密操作的主机)的/home/centos/.ssh同步给集群中所有的主机[centos@hadoop13 ~]$ xsync /home/centos/.ssh3.检测相互之间是否能够进行ssh免密登录群起集群4.配置所有的从机slaves(我这里是在/opt/module/hadoop-2.7.2/etc/...原创 2020-10-08 16:14:33 · 253 阅读 · 0 评论