大数据之Hadoop(本地运行模型、伪分布式运行模式)

本文详述了Hadoop的两种运行模式:本地模式和伪分布式模式,包括官方Grep和WordCount案例的实践,以及配置HDFS、YARN、历史服务器和日志聚集的详细步骤。
摘要由CSDN通过智能技术生成

  • Hadoop运行模式包括:本地模式、伪分布模式以及完全分布模式。
  • Hadoop官方网站:http://hadoop.apache.org/

4.1 本地运行模式

4.1.1 官方Grep案例

1、在hadoop-2.7.2文件夹下面创建一个input文件夹:mkdir input
在这里插入图片描述
2、将 etc/hadoop文件夹下的xml配置文件复制到input:cp etc/hadoop/.xml input
在这里插入图片描述
3、执行share目录下的MapReduce程序:hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.2.jar grep input output ‘dfs[a-z.]+’
在这里插入图片描述
4、查看输出结果:cat output/

在这里插入图片描述

4.1.2 官方WordCount案例

1、在hadoop-2.7.2文件夹下面创建一个wcinput文件夹:mkdir wcinput。
在这里插入图片描述
2、在wcinput文件夹下创建一个wc.input文件:touch wc.input
在这里插入图片描述
3、编辑wc.input文件:vim wc.input。
在这里插入图片描述
4、回到/opt/module/hadoop-2.7.2目录下
5、执行程序:hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.2.jar wordcount wcinput wcoutput
在这里插入图片描述
6、查看结果:cat wcoutput/part-r-00000
在这里插入图片描述

4.2 伪分布式运行模式

4.2.1 启动HDFS并运行MapReduce程序

1、分析
(1)配置集群
(2)启动、测试集群增、删、查
(3)执行WordCount案例
2、执行步骤
(1)配置集群
(a)配置:hadoop-env.sh:Linux系统中获取JDK的安装路径:echo $JAVA_HOME
在这里插入图片描述
修改JAVA_HOME路径:vim etc/hadoop/hadoop-env.sh

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值