使用docker搭建hadoop环境

hadoop


一、搭建Hadoop环境

我使用docker搭建hadoop环境(mac电脑),具体过程如下:
(1)使用homebrew安装docker
使用命令:brew cask install docker

在这里插入图片描述

(2)在docker上安装hadoop
搜索hadoop:命令docker search hadoop
安装stars最多的那个:命令docker pull sequenceiq/hadoop-docker

在这里插入图片描述

(3)进入hadoop
命令cd $HADOOP_PREFIX

在这里插入图片描述

二、运行第一个Hadoop程序

(1)进入相应目录后启动HDFS的进程服务
进入sbin目录,运行start-dfs.sh

在这里插入图片描述

(2)
创建一个txt文件,并写入内容
命令:touch my_wordcount.txt
命令:vi my_wordcount.txt

上传到云端并查看
命令:bin/hdfs dfs -mkdir -p /data/input
命令:bin/hdfs dfs -put my_wordcount.txt /data/input
命令:bin/hdfs dfs -ls /data/input

在这里插入图片描述

(3)运行样例程序
命令:
bin/hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.0.jar wordcount my_wordcount.txt my_wordcountout

在这里插入图片描述

(4)查看结果
在这里插入图片描述

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值