Windows10 系统,安装配置HADOOP ,适用于3

dfs.replication
        1
   
   
        dfs.namenode.name.dir
        file:/D:/chromedownload/hadoop-3.1.1/data/namenode
   
   
        dfs.datanode.data.dir
        file:/D:/chromedownload/hadoop-3.1.1/data/datanode
   

mapred-site.xml 中配置

           mapreduce.framework.name        yarn    

yarn-site.xml 中配置:

           yarn.nodemanager.aux-services        mapreduce\_shuffle                yarn.nodemanager.aux-services.mapreduce.shuffle.class        org.apache.hadoop.mapred.ShuffleHandler                            yarn.resourcemanager.webapp.address                 127.0.0.1:8088                      yarn.resourcemanager.hostname     localhost

3.配置完之后,到这个地址下载https://download.csdn.net/download/qq_33398459/10942809 bin 文件夹下需要的工具包

4.启动hdfs 和 yarn ,首先以 管理员身份 运行命令提示符 :到hadoop文件夹下的sbin路径下

输入:hdfs namenode -format 执行完后

5.执行 start-dfs.cmd 会另外开启两个窗口,没有报错,即启动成功

我启动报了 :java.lang.ClassNotFoundException: org.apache.hadoop.yarn.server.timelineservice.collect

解决方案:D:\chromedownload\hadoop-3.1.1\share\hadoop\yarn\timelineservice 将这个文件夹下的hadoop-yarn-server-timelineservice-3.1.1.jar 包 放到 这个路径下D:\chromedownload\hadoop-3.1.1\share\hadoop\yarn 即可解决。

这个网址解决了我多次运行 hdfs namenode -format 所遇到的datanode节点异常问题 https://blog.csdn.net/gis_101/article/details/52679914

  1. 执行 yarn start-yarn.cmd 即可

img
img
img

既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上大数据知识点,真正体系化!

由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新

需要这份系统化资料的朋友,可以戳这里获取

讲解视频,并且后续会持续更新**

需要这份系统化资料的朋友,可以戳这里获取

  • 19
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Hadoop是一个开源的分布式计算框架,在处理大规模数据时具有良好的扩展性和容错性。Hadoop 2.7.6是Hadoop的一系列版本中的一个版本,该版本适用于Windows 10操作系统Hadoop 2.7.6为Windows用户提供了便利,使得在Windows 10操作系统上部署和运行Hadoop集群变得更加简单。通过Hadoop,用户可以利用多台计算机上的资源,快速处理和存储大量的数据。 在部署Hadoop 2.7.6时,用户需要先安装Java开发工具包(JDK)和设置Java环境变量。接着,用户可以下载Hadoop 2.7.6二进制文件,并解压缩到任意目录中。然后,用户需要进行一些必要配置,例如在core-site.xml文件中指定Hadoop的文件系统、数据路径等信息,并在hadoop-env.cmd文件中设置Java的安装路径。配置完成后,用户可以启动Hadoop集群,即可开始使用Hadoop进行数据处理。 Hadoop 2.7.6版本在Windows上提供了与Linux版本相近的功能和性能。用户可以通过Hadoop分布式文件系统(HDFS)存储和管理大规模数据,并使用Hadoop分布式计算模型(MapReduce)处理这些数据。此外,Hadoop 2.7.6还提供了许多与数据处理相关的工具和库,如Hive、Pig、HBase等,使得用户可以更方便地进行数据分析和处理。 总之,Hadoop 2.7.6对于Windows 10用户来说是一个强大的工具,可以帮助他们处理和分析大量的数据。通过简单的配置和设置,用户可以轻松地部署和运行Hadoop集群,并利用Hadoop的强大功能进行数据处理和分析。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值