java连接hdfs文件系统并访问文件

package hadoop;

import java.io.BufferedReader;
import java.io.InputStream;
import java.io.InputStreamReader;
import java.net.URL;

import org.apache.commons.io.IOUtils;
import org.apache.hadoop.fs.FsUrlStreamHandlerFactory;

public class Hellohdfs {
    
    private static final String PATH="hdfs://192.168.199.132:9000/test.txt";

    public static void main(String[] args) throws Exception {
        //设定开启HDFS协议
        URL.setURLStreamHandlerFactory(new FsUrlStreamHandlerFactory());

        //开启URL
        InputStream in =  new URL(PATH).openStream();

        //读取文件
        BufferedReader reader = new BufferedReader(new InputStreamReader(in));
        String line = null;
        while((line =reader.readLine())!= null){
            System.out.println(line.toString());
        }

       
//      org.apache.hadoop.io.IOUtils.copyBytes(in, System.out, 1024,true);
    }
}

此时会出现connected refused问题这时候按以下步骤修改

把core-site.xml中的localhost 改为本机的ip地址

然后修改/etc/hosts文件

把localhost改为自己的ip地址

并添加

0.0.0.0  192.168.199.132(自己的ip地址)

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: 在Java中,要将本地文件上传到HDFS文件系统,可以使用Hadoop的`FileSystem`类。 首先,需要使用Hadoop的`Configuration`类来配置HDFS连接。 然后,使用`FileSystem`的`get()`方法获取HDFS的客户端实例,并使用`copyFromLocalFile()`方法将本地文件复制到HDFS。 下面是一个示例代码,假设本地文件的路径为`/path/to/local/file`,要将文件上传到HDFS的目标路径为`/path/to/hdfs/destination`: ``` import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.FileSystem; import org.apache.hadoop.fs.Path; public class UploadToHdfs { public static void main(String[] args) throws Exception { // 配置HDFS连接 Configuration conf = new Configuration(); conf.set("fs.defaultFS", "hdfs://namenode:9000"); // 获取HDFS客户端 FileSystem fs = FileSystem.get(conf); // 将本地文件复制到HDFS fs.copyFromLocalFile(new Path("/path/to/local/file"), new Path("/path/to/hdfs/destination")); // 关闭HDFS客户端 fs.close(); } } ``` 在这个示例代码中,我们使用了`namenode:9000`作为HDFS的地址,请根据实际情况修改。 另外,还需要注意,在使用Hadoop的API时,需要将Hadoop的相关依赖添加到项目中。 ### 回答2: 使用Java上传本地文件HDFS文件中,可以通过使用Hadoop的Java API来实现。下面是一个简单的示例代码: ```java import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.FileSystem; import org.apache.hadoop.fs.Path; public class HdfsUploader { public static void main(String[] args) { // 配置Hadoop集群的相关信息 Configuration conf = new Configuration(); // 设置HDFS文件系统URL conf.set("fs.defaultFS", "hdfs://localhost:9000"); try { // 创建一个新的Hadoop文件系统实例 FileSystem fs = FileSystem.get(conf); // 本地文件路径 String localFilePath = "/path/to/local/file.txt"; // HDFS文件路径 String hdfsFilePath = "/user/hadoop/file.txt"; // 将本地文件上传到HDFS fs.copyFromLocalFile(new Path(localFilePath), new Path(hdfsFilePath)); System.out.println("文件上传成功!"); } catch (Exception e) { e.printStackTrace(); } } } ``` 以上代码中,首先创建了一个Hadoop的`Configuration`对象,然后设置了HDFS文件系统URL。接着,通过`FileSystem.get()`方法获取Hadoop文件系统的实例。 接下来,指定本地文件的路径`localFilePath`和HDFS文件的路径`hdfsFilePath`。然后,使用`fs.copyFromLocalFile()`方法将本地文件上传到HDFS中。 最后,打印出文件上传成功的信息。 需要注意的是,在运行该代码之前,需要确保Hadoop集群已经正确地启动,并且本地文件HDFS文件路径均存在并可访问。 ### 回答3: 使用Java上传本地文件HDFS文件系统可以通过Hadoop的HDFS API来实现。以下是一个简单的代码示例: ```java import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.FileSystem; import org.apache.hadoop.fs.Path; import java.io.IOException; public class HDFSUploader { public static void main(String[] args) { String localFilePath = "/path/to/local/file.txt"; // 本地文件路径 String hdfsFilePath = "/path/to/hdfs/destination/file.txt"; // HDFS文件路径 Configuration conf = new Configuration(); try { // 创建一个HDFS文件系统实例 FileSystem fs = FileSystem.get(conf); // 创建一个本地文件路径对象 Path localPath = new Path(localFilePath); // 创建一个HDFS文件路径对象 Path hdfsPath = new Path(hdfsFilePath); // 将本地文件上传到HDFS fs.copyFromLocalFile(localPath, hdfsPath); // 打印上传成功的信息 System.out.println("文件上传成功!"); } catch (IOException e) { e.printStackTrace(); } } } ``` 在上述代码中,我们首先创建了一个HDFS文件系统实例,并指定了本地文件路径和HDFS文件路径。然后,通过`copyFromLocalFile()`方法将本地文件上传到HDFS。最后,打印出上传成功的信息。 需要注意的是,为了能够正常上传文件,需要配置好Hadoop的相关环境和配置文件,并将其添加到Java类路径中。同时,确保本地文件HDFS文件系统访问权限正确配置。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值