Hadoop学习常见错误

一、关于安装

1.  在Hadoop全分布环境搭建中,记得每台服务器上都需要安装 JDK

2.  安装Hadoop完毕后,除了需要配置环境变量外,还需要修改多个配置文件,缺一不可。文件位置在你指定路径安装的Hadoop下  的 /etc/hadoop/ 目录下。       

 需要修改的配置文件:    hadoop-env.sh         hdfs-site.xml       core-site.xml        mapred-site.xml (这个配置文件是原来 mapred-site-template 修改过的名字)   yarn-site.xml   slaves   由于疏忽,忘记配置slaves,导致在主机上启动服务后,其它服务器完全没反应。

3.  由于多次format namenode节点导致  namdenode 的 namespaceID 与  datanode的namespaceID 不一致,从而导致namenode和 datanode的断连。     

     解决方案:1、先将Hadoop所有服务停止,stop-all.sh    2、在自己设置的临时文件夹(tmp/dfs/)中将data文件夹删除    3、重新启动Hadoop服务就可以了,start-dfs.sh,用jps查看。

4. 启动服务后发现其它正常,DataNode 没起来,有可能是因为 NameNode 数据里的 CID 和DataNode 上的 CID 不一致。 解决方案: 关闭服务,将DataNode里的CID改为NameNode的     CID即可。

5. 执行 yarn 启动命令时,要在指定的 ResourceManager 上启动。否则会发现 ResourceManager    未启动。

6.在确认各配置文件正确后,如果不能正常连接到 HDFS 或 Yarn 平台,尝试更换浏览器,推荐         电脑自带的 ie 浏览器。

二、MapReduce 错误


13455850-0e9d4643c481ed88.png


13455850-579090ec9a2cd39d.png

  以上便是一些简单的常见错误,希望对大家能有所帮助。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值