HDFS的读写

1、读取mr的结果输出目录

public static List<String> getHdfsFileColumns(Stirng path){
   List<String> colimns = new ArrayList<String>();
   InputStreamReader isr = null;
   BufferedReader br = null;
   try{
      Configuration conf = new Configuration();
      conf.set("fs.hdfs.impl","org.apache.hadoop.hdfs.DistributeFileSystem");
      FileSystem fs = FileSystem.get(URI.create(path),conf);
      FileStatus [] status = fs.listStatus(new Path(path));
      for (FileStatus file : status){
            if(!file.getPath().getName.startWith("part-r")){
                continue;
          }
            FSDataInputStream fsdata = fs.open(file.getPath());
            isr = new InputStreamReader(fsdata);
            br = new BufferedReader(isr);
            String line = "";
            while((line = br.readLine())!=null){
               columns.add(line);

          }

     }
      isr.close();
      br.close();


   }catch (Exception e){
      e.printStackTrace();
   }



}

2、将数据写到hdfs

public static List<String> getHdfsFileColumns(Stirng path){
   List<String> colimns = new ArrayList<String>();
   InputStreamReader isr = null;
   BufferedReader br = null;
   try{
      Configuration conf = new Configuration();
      conf.set("fs.hdfs.impl","org.apache.hadoop.hdfs.DistributeFileSystem");
      FileSystem fs = FileSystem.get(URI.create(path),conf,"root");
      FSDataOutputStream out= fs.create(new Path(path));
      byte [] bb ="abc".getBytes();
      out.write(bb);
      out.close();
     }catch(Exceptionn e){
       e.printStackTrace();
    }
     


   }



}

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值