hadoop环境配置(单机伪分布) &WordCount测试&踩坑体验

本文详细介绍了如何在单机环境中配置Hadoop,并进行WordCount测试。内容涵盖安装Java环境、配置SSH、安装Hadoop、设置环境变量、修改配置文件、格式化NameNode、启动HDFS和MapReduce,以及解决遇到的各种问题,如JAVA_HOME未设置、命令未找到、启动脚本过时等。
摘要由CSDN通过智能技术生成

一. 安装java环境

自己找JAVA安装教程哈,我虚拟机之前装过了,就不写了

二.配置ssh环境

用免密码登录后续启动节点时就不用每次都输密码了

如果你只是想登陆别的机器的SSH只需要安装openssh-client(ubuntu有默认安装,如果没有则sudo apt-get install openssh-client),如果要使本机开放SSH服务就需要安装openssh-server。默认端口是22,如果你之前登录其他机器,这次直接ssh localhost,显示
localhost: ssh: connect to host localhost port 22: Connection refused
很可能就是没装(比如说我…)

#通过dpkg -l 和管道过滤查看是否有ssh server
dpkg -l | grep ssh
#如果没有
sudo apt-get install openssh-server
#rsa方式创建,你可以一路回车
ssh-keygen -t rsa -P ""
cat ~/.ssh/id_rsa.pub >> authorized_keys
#测试登录
ssh localhost
#退出
logout

三. 安装hadoop

我的实验课要安装2.7.x版本,然而我在hadoop官网下看的镜像网站下的稳定版本是2.10.x, 3.x,只好在官网其他地方找找,用的是archive下找到的2.7.1,所以,安装巨慢,下载用了快3h…

#新建一个安装文件夹,以后也好找
mkdir ~/hadoop_installs
cd hadoop_installs
wget https://archive.apache.org/dist/hadoop/common/hadoop-2.7.1/hadoop-2.7.1.tar.gz
#解压缩
tar zxvf hadoop-2.7.1.tar.gz

四. 设置环境变量

gedit ~/.bashrc

#一些路径改成你自己的安装路径哈
PATH=$PATH:$HOME/bin
export JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64
export HADOOP_HOME=/home/xjm/hadoop_installs/hadoop-2.7.1
export PATH=$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$PATH
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
export JRE_HOME=${
   JAVA_HOME}/jre

使环境变量生效 source ~/.bashrc

五. 修改配置文件

可以在hadoop2.7.1/etc/hadoop目录下找到

1. core-site.xml :主要完成NameNode的ip和端口设置
 <configuration>
  <!-
  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值