Hadoop从入门到入土(第十五天)

hadoop_hdfs_maven安装

复制maven文件夹的路径》来到桌面选择此电脑右键》属性》高级》环境变量》新建》

变量名:MAVEN_HOME
变量值:粘贴maven文件夹路劲

确定》双击path在里面添加》

%MAVEN_HOME%/bin

依次点击确定》来到maven/conf文件夹下双击settingzai将里面的文件替换掉》

<?xml version="1.0" encoding="UTF-8"?>
<settings xmlns="http://maven.apache.org/SETTINGS/1.0.0"
          xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
          xsi:schemaLocation="http://maven.apache.org/SETTINGS/1.0.0 http://maven.apache.org/xsd/settings-1.0.0.xsd">
 
  <!-- 我本地的仓库地址 -->
  <localRepository>D:\Hadoopruanjian\mavenwenjian</localRepository>
 
  <pluginGroups></pluginGroups>
  <proxies></proxies>
  <servers></servers>
 
  <mirrors>
	<!-- 阿里云中央仓库镜像地址 -->
	<mirror>
     <id>aliyunmaven</id>
     <mirrorOf>*</mirrorOf>
     <name>阿里云公共仓库</name>
     <url>https://maven.aliyun.com/repository/public</url>
    </mirror>
    
     <mirror>
     <id>aliyunmaven</id>
     <mirrorOf>*</mirrorOf>
     <name>阿里云谷歌仓库</name>
     <url>https://maven.aliyun.com/repository/google</url>
    </mirror>
    
    <mirror>
     <id>aliyunmaven</id>
     <mirrorOf>*</mirrorOf>
     <name>阿里云阿帕奇仓库</name>
     <url>https://maven.aliyun.com/repository/apache-snapshots</url>
    </mirror>
    
    <mirror>
     <id>aliyunmaven</id>
     <mirrorOf>*</mirrorOf>
     <name>阿里云spring仓库</name>
     <url>https://maven.aliyun.com/repository/spring</url>
    </mirror>
    
    <mirror>
     <id>aliyunmaven</id>
     <mirrorOf>*</mirrorOf>
     <name>阿里云spring插件仓库</name>
     <url>https://maven.aliyun.com/repository/spring-plugin</url>
    </mirror>
	
	<!-- 腾讯云中央仓库 -->
    <mirror>
      <id>tencent</id>
      <name>tencent maven mirror</name>
      <url>https://mirrors.tencent.com/nexus/repository/maven-public/</url>
      <mirrorOf>*</mirrorOf>
    </mirror>

  </mirrors>
  <profiles></profiles>
</settings>

》打开idea》这里可以下载中文插件》新建maven8329c9db28d34ae89c30c5ddbd52af21.png确定》文件》设置》maven》277f66d04e624968a65a71b2f482da85.png

 

 在resources下建一个FXML文件和在Java下建一个包在包下建一个java类7b1e29426e834c21b99a6f5f3c483bbd.png

 在java类里添加

package comatguiguhdfs;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.junit.After;
import org.junit.Before;
import org.junit.Test;

import java.io.IOException;
import java.net.URI;
import java.net.URISyntaxException;

public class HdfsClient {
    private FileSystem fs;

    @Before
    //因为一般前面和最后的步骤一样,可以封装起来
    public void init() throws URISyntaxException, IOException, InterruptedException {
        //连接的集群地址
        URI uri = new URI("hdfs://hadoop102:8020");
        //创建一个配置文件
        Configuration configuration = new Configuration();
        //不是对应的用户会报权限不够的错误
        String user = "nancheng";
        //1.获取到客户端对象
        fs = FileSystem.get(uri, configuration, user);
    }

    @After
    public void close() throws IOException {
        //3.关闭资源
        fs.close();
    }

    /*
    创建目录
     */
    @Test
    public void testmkdir() throws URISyntaxException, IOException, InterruptedException {

        //2.创建一个文件夹
        fs.mkdirs(new Path("/xiyou/huaguoshan1"));
    }

    /*
    上传
     */
    @Test
    public void testPut() throws IOException {
        //参数解读:参数1:表示是否删除原数据;参数2:是否允许覆盖;参数3:原数据路径;参数4:目的地路径
        fs.copyFromLocalFile(true, false, new Path("D:\\code\\Hadoop\\sunwukong.txt"), new Path("hdfs://hadoop102/xiyou/huaguoshan"));
    }

}

 

 

 

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Hadoop是一个开源的分布式计算框架,用于处理大规模数据的存储和分析。如果你想从入门到精通Hadoop,我可以给你一些学习路径和资源推荐。 1. 入门阶段: - 了解Hadoop的基本概念和架构,包括HDFS(分布式文件系统)和MapReduce(分布式计算模型)。 - 学习如何在单节点或伪分布式环境中安装和配置Hadoop。 - 掌握Hadoop的基本命令和操作,包括文件操作、作业提交等。 2. 深入学习阶段: - 学习Hadoop生态系统中其他相关工具和组件,如Hive(数据仓库)、Pig(数据分析语言)、HBase(NoSQL数据库)等。 - 掌握Hadoop集群的配置和部署,学习如何进行容错和故障恢复。 - 理解Hadoop的调优技巧和性能优化策略,包括数据本地性、并行度控制、任务调度等方面。 3. 实践应用阶段: - 在实际项目中应用Hadoop进行数据处理和分析,如大规模数据的清洗、转换、聚合等。 - 学习如何编写自定义的MapReduce作业,处理复杂的数据处理需求。 - 探索Hadoop的扩展能力,如与Spark、Flink等实时计算框架的结合使用。 对于学习资源,可以参考以下内容: - 官方文档:Apache官方网站提供了详细的文档和教程,适合作为入门参考。 - 书籍:《Hadoop权威指南》、《Hadoop实战》等经典书籍是学习Hadoop的好选择。 - 在线课程:Coursera、Udacity等平台提供了许多与Hadoop相关的在线课程,如《Introduction to Big Data with Apache Hadoop》等。 记住,学习Hadoop需要一定的时间和实践经验,不断进行实际项目的实践和探索是提高技能的关键。祝你学习顺利!

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值