HDFS---JavaApi操作

本文档详细介绍了如何使用Java API操作HDFS,包括环境配置、文件上传、下载、删除、重命名、查看文件详情及文件夹判断等步骤,并提供了相关代码示例。
摘要由CSDN通过智能技术生成


边学边写,持续更新中
配合目录用



Java API

环境配置

  1. 下载并解压Maven到 /opt 目录下,配置环境变量
    /etc/profile.d 路径下创建一个 maven.sh 文件,写入以下代码
    source /etc/profile ,用 mvn -v 查看是否安装成功,如图
export MAVEN_HOME=/opt/apache-maven-3.0.5
export PATH=$PATH:${MAVEN_HOME}/bin

在这里插入图片描述

  1. 更换maven源
    vim /opt/apache-maven-3.0.5/conf/settings.xml,在指定位置写入以下代码,如图
    注意:别在注释里面写
    <mirror>
      <id>nexus-aliyun</id>
      <mirrorOf>central</mirrorOf>
      <name>Nexus aliyun</name>
      <url>http://maven.aliyun.com/nexus/content/groups/public/</url>
    </mirror>

在这里插入图片描述


  1. 测试
  2. 创建Maven工程
    在 /opt 目录下,创建一个文件夹,进入该文件夹
    mkdir workspace
    在workspace文件夹下,创建项目,如图
    mvn archetype:generate -DgroupId=com.root
    在这里插入图片描述
    默认回车执行,创建一个maven样例工程
    输入项目名称,定义版本号-默认回车,检查-默认回车。如图
    在这里插入图片描述
  3. tree hdfs-mkdir/ 查看结构。若提示 tree not found ,按提示安装tree。如图
    在这里插入图片描述
  4. 打包 mvn package , 输出hello world
    在 hdfs-mkdir 目录下,
    先执行mvn clean
    执行mvn package
    再用 tree hdfs-mkdir/ 会增加如下内容
    在这里插入图片描述
    运行该打包文件,在/hdfs-mkdir 目录下。结果如图
    java -cp target/hdfs-mkdir-1.0-SNAPSHOT.jar com.root.App
    在这里插入图片描述
  5. 导入依赖。更改 pom.xml ,写入以下代码,并在如图所示加入版本号
    <dependency>
      <groupId>junit</groupId>
      <artifactId>junit</artifactId>
      <version>RELEASE</version>
    </dependency>
    <dependency>
      <groupId>org.apache.logging.log4j</groupId>
      <artifactId>log4j-core</artifactId>
      <version>2.8.2</version>
    </dependency>
    <dependency>
      <groupId>org.apache.hadoop</groupId>
      <artifactId>hadoop-common</artifactId>
      <version>${hadoop.version}</version>
    </dependency>
    <dependency>
      <groupId>org.apache.hadoop</groupId>
      <artifactId>hadoop-client</artifactId>
      <version>${hadoop.version}</version>
    </dependency>
    <dependency>
      <groupId>org.apache.hadoop</groupId>
      <artifactId>hadoop-hdfs</artifactId>
      <version>${hadoop.version}</version>
    </dependency>

在这里插入图片描述

  1. 清理上次运行的结果
    mvn clean
    再次运行 mvn package
    运行打包的文件,成功输出
    java -cp target/hdfs-mkdir-1.0-SNAPSHOT.jar com.root.App


样例- mkdir

每一次运行java程序之前都要 clean 和 package 一遍

  • mkdir样例
  1. 修改pom.xml 文件,加入以下代码,,如图,注意对齐
    完成后执行 mvn cleanmvn package
  <build>
    <plugins>
      <plugin>
        <groupId>org.apache.maven.plugins</groupId>
        <artifactId>maven-jar-plugin
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Tancy.

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值