Windows系统用IDEA远程链接在本地虚拟机上的伪Hadoop集群

Windows系统用IDEA远程链接在本地虚拟机上的伪Hadoop集群

环境:

操作系统:win10

hadoop版本:3.3.0

需自行在本机上安装好虚拟机,并且虚拟机上还需安装好Hadoop环境

环境变量设置:

HADOOP_HOOME:解压的Hadoop下载地址(要求绝对地址无空格和中文)

%HADOOP_HOOME%/bin

%HADOOP_HOOME%/bin/winutils.exe

Hadoop配置:

Hadoop下载地址:https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/

与自己虚拟机的版本相同即可

修改hadoop-env.cmd,改为自己本机的设置jdk目录
set JAVA_HOME=C:\Program Files\Java\jdk1.8.0_221

winutils配置:

winutils的windows版本: github.com/steveloughran/winutils

如果找不到对应版本,可直接下载最近版本即可

将下载的bin文件夹与本地hadoop下的bin文件夹替换

将下载的bin文件夹下的hadoop.dll拷贝到C:\Windows\System32目录下

idea插件设置:

big data tools

打开IDEA,进入插件下载,点击左上角File->Settings-> Plugins,输入big data tools进行下载。

进行ip地址的配置.
在这里插入图片描述

参考文章:

  • https://blog.csdn.net/weixin_45774600/article/details/105291623?utm_medium=distribute.pc_relevant.none-task-blog-2defaultbaidujs_baidulandingword~default-4-105291623-blog-54434534.pc_relevant_paycolumn_v3&spm=1001.2101.3001.4242.3&utm_relevant_index=7

  • https://blog.csdn.net/weixin_43387852/article/details/116698927?utm_medium=distribute.pc_relevant.none-task-blog-2defaultbaidujs_utm_term~default-0.control&spm=1001.2101.3001.4242
    idujs_utm_term~default-0.control&spm=1001.2101.3001.4242

在Linux虚拟机上搭建Hadoop集群,通常分为以下几个步骤: 1. **安装虚拟机**:首先,在宿主机上安装Linux虚拟机软件,如VirtualBox或VMware,然后下载Linux操作系统镜像作为虚拟机的模板。 2. **配置网络**:在虚拟机设置中,确保虚拟机可以访问互联网,以便从官方网站下载Hadoop的最新版本。 3. **安装基础环境**:在虚拟机中,安装Java Development Kit (JDK),因为Hadoop依赖于Java环境。然后安装Git以获取最新的Hadoop源码。 4. **下载并解压Hadoop**:从Apache官网下载Hadoop二进制包(例如Hadoop 2.x或Hadoop 3.x),并解压缩到一个合适的目录。 5. **配置Hadoop**:编辑`core-site.xml`, `hdfs-site.xml`, 和 `yarn-site.xml`等配置文件,设置重要信息,如名称节点(NameNode)、数据节点(DataNodes)、资源管理器(ResourceManager)等地址。 6. **启动守护进程**:使用命令行依次启动Hadoop的守护进程,包括NameNode、DataNode、Secondary NameNode、ResourceManager、NodeManager等。 7. **验证集群**:通过命令行工具(如`hadoop fs -ls`)检查HDFS是否正常工作,以及`yarn jar`查看YARN任务是否能够提交和运行。 8. **安全性和高可用性**:如果需求更高,可以添加Kerberos认证和ZooKeeper服务以提高安全性及集群的稳定性。 9. **性能测试**:最后,你可以使用一些测试工具(如Hadoop自带的WordCount示例或第三方工具如MapReduce基准测试)来评估集群性能。 注意,这只是一个简化的流程,实际搭建过程中可能会遇到各种问题,如权限设置、网络通信等问题,需要根据实际情况逐步调试。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值