hadoop调用HDFS java api实现在HDFS上创建文件夹

目录

一、前期准备

1、Hadoop集群已配置完毕

2、Linux系统安装jdk

3、安装并破解IntelliJ IDEA

二、通过JAVA API操纵HDFS

1.在IDEA中创建项目

 2.在hdfs项目的src->main->java路径下创建一个包,然后在包下创建一个java类实现hdfs的文件操作

 3.java类的代码

4.对JAVA程序传入参数后运行程序

 5.将项目打包成可运行的jar包,并上传到服务器

5.1、IDEA开发hadoop项目打包

1.右击项目名称,选择Open Module Settings

2.选择Artifacts,点击中间绿色的+号,选择JAR,再选择第二个选项

3.点击Main Class右边的小方块选择主类,下一个选项如果要打成一个压缩包选择第一个,如果其他依赖包要分开放也就是最后是多个jar包选择第二个选项。我选第一个,然后点击OK

4.勾选include in project build,点击+和-号添加最后jar包内的其他jar包,主要是将项目依赖的jar包导入,如果一开始配置好了,直接点OK就行。

5.然后点击Build按钮,选择Build Artifacts... 

6.出现以下选择框,第一次使用选择Build,非第一次选Rebuild

7.Build完之后多出了out目录与target目录,接着就可以去本地out目录下找已经完成的jar包

 5.2在CMD.exe验证jar包是否可以运行

5.3修改之前写的myhdfs脚本(我之前的myhdfs脚本是有内容的),脚本内部调用java命令运行能创建文件夹的jar包,从而实现在HDFS上创建文件夹

5.4在服务器上运行jar包

三、可能出现的问题

解决方法:


一、前期准备

1、Hadoop集群已配置完毕

2、Linux系统安装jdk

3、安装并破解IntelliJ IDEA

二、通过JAVA API操纵HDFS

1.在IDEA中创建项目

 2.在hdfs项目的src->main->java路径下创建一个包,然后在包下创建一个java类实现hdfs的文件操作

 3.java类的代码

 在代码中fs.mkdirs(new Path(targetDir));该方法的作用是请求在HDFS上创建指定的文件夹

public static void main(String[] args) throws IOException {
        System.setProperty("HADOOP_USER_NAME","root");
        if(args.length==0){
            System.out.println("ERR!创建文件夹失败!请传入一个路径参数作为将要创建的文件夹");
            return;
        }
        String targetDir=args[0];
        //创建一个配置对象
        Configuration conf = new Configuration() ;
        //2设置fs.defaultFS 属性,目的是创建一个DistributedFileSystem对象
        conf.set("fs.defaultFS","hdfs://192.168.58.3:9000");
        //获取一个FileSystem对象(文件系统对象)
        FileSystem fs=FileSystem.get(conf);
        boolean mkdirs= fs.mkdirs(new Path(targetDir));
        if(mkdirs){
            System.out.println("成功在HDFS上创建"+targetDir);
        }
        fs.close();
    }

4.对JAVA程序传入参数后运行程序

 5.将项目打包成可运行的jar包,并上传到服务器

5.1、IDEA开发hadoop项目打包
1.右击项目名称,选择Open Module Settings

    

2.选择Artifacts,点击中间绿色的+号,选择JAR,再选择第二个选项

3.点击Main Class右边的小方块选择主类,下一个选项如果要打成一个压缩包选择第一个,如果其他依赖包要分开放也就是最后是多个jar包选择第二个选项。我选第一个,然后点击OK

    

4.勾选include in project build,点击+和-号添加最后jar包内的其他jar包,主要是将项目依赖的jar包导入,如果一开始配置好了,直接点OK就行。

    

5.然后点击Build按钮,选择Build Artifacts... 

    

6.出现以下选择框,第一次使用选择Build,非第一次选Rebuild

    

7.Build完之后多出了out目录与target目录,接着就可以去本地out目录下找已经完成的jar包

 5.2在CMD.exe验证jar包是否可以运行

5.3修改之前写的myhdfs脚本(我之前的myhdfs脚本是有内容的),脚本内部调用java命令运行能创建文件夹的jar包,从而实现在HDFS上创建文件夹

5.4在服务器上运行jar包

三、可能出现的问题

在编写java的时候出现以下报错

Exception in thread "main" org.apache.hadoop.security.AccessControlException: Permission denied: user=·봺Ï, access=WRITE, inode="/user/·봺Ï/cc.txt":root:supergroup:drwxr-xr-x
	at org.apache.hadoop.hdfs.server.namenode.FSPermissionChecker.check(FSPermissionChecker.java:319)
	at org.apache.hadoop.hdfs.server.namenode.FSPermissionChecker.check(FSPermissionChecker.java:292)
	at org.apache.hadoop.hdfs.server.namenode.FSPermissionChecker.checkPermission(FSPermissionChecker.java:213)
	at org.apache.hadoop.hdfs.server.namenode.FSPermissionChecker.checkPermission(FSPermissionChecker.java:190)
	at org.apache.hadoop.hdfs.server.namenode.FSDirectory.checkPermission(FSDirectory.java:1698)
	at org.apache.hadoop.hdfs.server.namenode.FSDirectory.checkPermission(FSDirectory.java:1682)
	at org.apache.hadoop.hdfs.server.namenode.FSDirectory.checkAncestorAccess(FSDirectory.java:1665)
	at org.apache.hadoop.hdfs.server.namenode.FSDirMkdirOp.mkdirs(FSDirMkdirOp.java:71)
	at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.mkdirs(FSNamesystem.java:3900)
	at org.apache.hadoop.hdfs.server.namenode.NameNodeRpcServer.mkdirs(NameNodeRpcServer.java:978)
	at org.apache.hadoop.hdfs.protocolPB.ClientNamenodeProtocolServerSideTranslatorPB.mkdirs(ClientNamenodeProtocolServerSideTranslatorPB.java:622)
	at org.apache.hadoop.hdfs.protocol.proto.ClientNamenodeProtocolProtos$ClientNamenodeProtocol$2.callBlockingMethod(ClientNamenodeProtocolProtos.java)
	at org.apache.hadoop.ipc.ProtobufRpcEngine$Server$ProtoBufRpcInvoker.call(ProtobufRpcEngine.java:616)
	at org.apache.hadoop.ipc.RPC$Server.call(RPC.java:969)
	at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:2049)
	at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:2045)
	at java.security.AccessController.doPrivileged(Native Method)
	at javax.security.auth.Subject.doAs(Subject.java:422)
	at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1657)
	at org.apache.hadoop.ipc.Server$Handler.run(Server.java:2043)

	at sun.reflect.NativeConstructorAccessorImpl.newInstance0(Native Method)
	at sun.reflect.NativeConstructorAccessorImpl.newInstance(NativeConstructorAccessorImpl.java:62)
	at sun.reflect.DelegatingConstructorAccessorImpl.newInstance(DelegatingConstructorAccessorImpl.java:45)
	at java.lang.reflect.Constructor.newInstance(Constructor.java:422)
	at org.apache.hadoop.ipc.RemoteException.instantiateException(RemoteException.java:106)
	at org.apache.hadoop.ipc.RemoteException.unwrapRemoteException(RemoteException.java:73)
	at org.apache.hadoop.hdfs.DFSClient.primitiveMkdir(DFSClient.java:3010)
	at org.apache.hadoop.hdfs.DFSClient.mkdirs(DFSClient.java:2978)
	at org.apache.hadoop.hdfs.DistributedFileSystem$21.doCall(DistributedFileSystem.java:1047)
	at org.apache.hadoop.hdfs.DistributedFileSystem$21.doCall(DistributedFileSystem.java:1043)
	at org.apache.hadoop.fs.FileSystemLinkResolver.resolve(FileSystemLinkResolver.java:81)
	at org.apache.hadoop.hdfs.DistributedFileSystem.mkdirsInternal(DistributedFileSystem.java:1043)
	at org.apache.hadoop.hdfs.DistributedFileSystem.mkdirs(DistributedFileSystem.java:1036)
	at org.apache.hadoop.fs.FileSystem.mkdirs(FileSystem.java:1877)
	at lzzy.Mkdir.main(Mkdir.java:23)
Caused by: org.apache.hadoop.ipc.RemoteException(org.apache.hadoop.security.AccessControlException): Permission denied: user=·봺Ï, access=WRITE, inode="/user/·봺Ï/cc.txt":root:supergroup:drwxr-xr-x
	at org.apache.hadoop.hdfs.server.namenode.FSPermissionChecker.check(FSPermissionChecker.java:319)
	at org.apache.hadoop.hdfs.server.namenode.FSPermissionChecker.check(FSPermissionChecker.java:292)
	at org.apache.hadoop.hdfs.server.namenode.FSPermissionChecker.checkPermission(FSPermissionChecker.java:213)
	at org.apache.hadoop.hdfs.server.namenode.FSPermissionChecker.checkPermission(FSPermissionChecker.java:190)
	at org.apache.hadoop.hdfs.server.namenode.FSDirectory.checkPermission(FSDirectory.java:1698)
	at org.apache.hadoop.hdfs.server.namenode.FSDirectory.checkPermission(FSDirectory.java:1682)
	at org.apache.hadoop.hdfs.server.namenode.FSDirectory.checkAncestorAccess(FSDirectory.java:1665)
	at org.apache.hadoop.hdfs.server.namenode.FSDirMkdirOp.mkdirs(FSDirMkdirOp.java:71)
	at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.mkdirs(FSNamesystem.java:3900)
	at org.apache.hadoop.hdfs.server.namenode.NameNodeRpcServer.mkdirs(NameNodeRpcServer.java:978)
	at org.apache.hadoop.hdfs.protocolPB.ClientNamenodeProtocolServerSideTranslatorPB.mkdirs(ClientNamenodeProtocolServerSideTranslatorPB.java:622)
	at org.apache.hadoop.hdfs.protocol.proto.ClientNamenodeProtocolProtos$ClientNamenodeProtocol$2.callBlockingMethod(ClientNamenodeProtocolProtos.java)
	at org.apache.hadoop.ipc.ProtobufRpcEngine$Server$ProtoBufRpcInvoker.call(ProtobufRpcEngine.java:616)
	at org.apache.hadoop.ipc.RPC$Server.call(RPC.java:969)
	at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:2049)
	at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:2045)
	at java.security.AccessController.doPrivileged(Native Method)
	at javax.security.auth.Subject.doAs(Subject.java:422)
	at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1657)
	at org.apache.hadoop.ipc.Server$Handler.run(Server.java:2043)

	at org.apache.hadoop.ipc.Client.call(Client.java:1476)
	at org.apache.hadoop.ipc.Client.call(Client.java:1407)
	at org.apache.hadoop.ipc.ProtobufRpcEngine$Invoker.invoke(ProtobufRpcEngine.java:229)
	at com.sun.proxy.$Proxy7.mkdirs(Unknown Source)
	at org.apache.hadoop.hdfs.protocolPB.ClientNamenodeProtocolTranslatorPB.mkdirs(ClientNamenodeProtocolTranslatorPB.java:558)
	at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
	at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
	at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
	at java.lang.reflect.Method.invoke(Method.java:497)
	at org.apache.hadoop.io.retry.RetryInvocationHandler.invokeMethod(RetryInvocationHandler.java:187)
	at org.apache.hadoop.io.retry.RetryInvocationHandler.invoke(RetryInvocationHandler.java:102)
	at com.sun.proxy.$Proxy8.mkdirs(Unknown Source)
	at org.apache.hadoop.hdfs.DFSClient.primitiveMkdir(DFSClient.java:3008)
	... 8 more

Process finished with exit code 1

百度了一下这个问题说是权限问题,操作hdfs的用户不是集群上规定的用户,而且不存在 supergroup组内

解决方法:

我是在代码里添加

System.setProperty(“HADOOP_USER_NAME”,“root”)

  • 1
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: 可以使用以下代码在 HDFS创建目录: ```java import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.FileSystem; import org.apache.hadoop.fs.Path; public class CreateDirectory { public static void main(String[] args) throws Exception { Configuration conf = new Configuration(); FileSystem fs = FileSystem.get(conf); Path path = new Path("/test"); boolean success = fs.mkdirs(path); if (success) { System.out.println("Directory created"); } else { System.out.println("Failed to create directory"); } fs.close(); } } ``` 其中,`Configuration` 是 Hadoop 的配置类,`FileSystem` 是 Hadoop 的文件系统类,`Path` 是 Hadoop 的路径类。`fs.mkdirs(path)` 方法用于创建目录,返回值为 `true` 表示创建成功,返回值为 `false` 表示创建失败。最后需要调用 `fs.close()` 方法关闭文件系统。 ### 回答2: Hadoop Distributed File System(HDFS)是一个分布式文件系统,用于在大型集群中存储和管理数据。在HDFS创建目录,可以使用Java API实现。在这篇文章中,我们将探讨如何使用Java APIHDFS创建目录。 首先,确保你已经安装了Java运行环境和Hadoop分布式环境,并可以启动一个HDFS。启动Hadoop检查守护进程: ``` $ start-dfs.sh ``` 接下来,我们将创建一个Java类,命名为HdfsCreateDir,并添加以下代码: ``` import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.FileSystem; import org.apache.hadoop.fs.Path; import java.net.URI; public class HdfsCreateDir { public static void main(String[] args) throws Exception { //指定namenode String uri = "hdfs://localhost:9000/"; //获取Configuration对象 Configuration conf = new Configuration(); //获取FileSystem对象 FileSystem fs = FileSystem.get(URI.create(uri), conf); //创建一个路径 Path dir = new Path("/testDir"); //使用 mkdirs 在hdfs创建一个新的目录 fs.mkdirs(dir); //关闭文件系统对象 fs.close(); } } ``` 代码解释: 我们首先指定namenode的URI(Universal Resource Identifier),这里我们使用localhost:9000。 然后获取Configuration对象,并使用这个对象来获取FileSystem对象。 接着创建一个路径对象dir,路径为“/testDir”。 最后,我们使用mkdirs方法在HDFS创建一个新的目录。如果目录已经存在,这个方法将返回false,否则它将返回true。最后我们要记得关闭文件系统对象。 最后,使用javac编译这个类,然后使用java运行这个程序: ``` $ javac HdfsCreateDir.java $ java HdfsCreateDir ``` 当程序运行时,Hadoop将在HDFS创建一个名为“/testDir”的新目录。你可以使用hadoop fs -ls命令检查目录是否已创建: ``` $ hadoop fs -ls / Found 1 items drwxr-xr-x - root supergroup 0 2021-06-24 09:24 /testDir ``` 以上就是使用Java APIHDFS创建目录的方法。这个过程简单易行,只需要几行代码即可。需要注意的是,在创建路径对象时,应该指定完整的路径名(包括根目录“/”)。另外,我们使用的是fs.mkdirs()方法,因为这个方法可以在遇到不存在的目录时自动创建它们。 ### 回答3: HDFSHadoop Distributed File System)是分布式存储和处理大量数据的开源框架,它支持大规模数据存储和高吞吐量的数据访问,因此广泛应用于大规模数据处理和分析领域。 在HDFS创建目录可以使用Java API实现,具体步骤如下: 1. 加载Hadoop的配置文件 在Java程序中操作HDFS,需要引入Hadoop的jar包,并加载相关配置文件,将Hadoop配置文件加载到程序中,以便程序能够连接HDFS。 ``` Configuration conf = new Configuration(); conf.addResource(new Path("core-site.xml")); conf.addResource(new Path("hdfs-site.xml")); ``` 2. 获取HDFS文件系统对象 要操作HDFS的文件或目录,需要获取HDFS文件系统对象,在Java中可以使用FileSystem类的get方法获取HDFS文件系统对象。 ``` FileSystem fs = FileSystem.get(conf); ``` 3. 创建目录 要在HDFS创建目录,可以使用FileSystem类的mkdirs方法。mkdirs方法会递归创建目录,如果目录已经存在则不进行任何操作。 ``` Path dir = new Path("/test"); // 要创建的目录路径 boolean success = fs.mkdirs(dir); // 在HDFS创建目录 ``` 4. 关闭HDFS文件系统对象 在操作完成后,需要关闭HDFS文件系统对象,释放资源。 ``` fs.close(); ``` 至此,使用Java APIHDFS创建目录的步骤已经完成。完整的代码示例如下: ``` Configuration conf = new Configuration(); conf.addResource(new Path("core-site.xml")); conf.addResource(new Path("hdfs-site.xml")); FileSystem fs = FileSystem.get(conf); Path dir = new Path("/test"); boolean success = fs.mkdirs(dir); fs.close(); ``` 注:以上代码中,"core-site.xml"和"hdfs-site.xml"是Hadoop的配置文件,需要根据实际情况进行配置。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值