读取hdfs上指定文件中的内容

package com.yc.hadoop.hdfs;


import java.net.URI;
import java.util.Scanner;


import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataInputStream;
import org.apache.hadoop.fs.FileStatus;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.apache.log4j.Logger;


/**
 * 读取hdfs上指定文件中的内容
 * @company 源辰信息
 * @author navy
 */
public class Hadoop_HdfsApi05 {
private static Logger log = Logger.getLogger(Hadoop_HdfsApi05.class);  // 创建日志记录器


public static void main(String[] args) {
Scanner input = new Scanner(System.in);
FileSystem fs = null;
try {
Configuration conf = new Configuration();  // 加载配置文件
URI uri = new URI("hdfs://192.168.30.130:9000/");  // 连接资源位置

fs = FileSystem.get(uri,conf,"navy");  // 创建文件系统实例对象


//FileStatus[] files = fs.listStatus(new Path("/user/navy/"));  // 列出文件
FileStatus[] files = fs.listStatus(new Path("/input"));  // 列出文件
System.out.println("该目录下的文件名有:");

for (FileStatus f : files) {
System.out.println("\t" + f.getPath().getName());
}


System.out.print("请输入要查看的文件名:");
Path p= new Path("/input/"+input.next()); // 默认是读取/user/navy/下的指定文件


System.out.println("要查看的文件路径为:" + fs.getFileStatus(p).getPath());

//不可以用java文件流读取数据hdfs上的数据
//System.out.println(fs.getFileStatus(p).getPath().toUri());
//File remoteFile = new File(fs.getFileStatus(p).getPath().toUri());
//InputStream in = new FileInputStream(remoteFile);
//FSDataInputStream fsin = new FSDataInputStream(in);


FSDataInputStream fsin = fs.open(fs.getFileStatus(p).getPath());
byte[] bs = new byte[1024 * 1024];
int len = 0;
while((len = fsin.read(bs)) != -1){
System.out.print(new String(bs, 0, len));
}

System.out.println();
fsin.close();
input.close();
} catch (Exception e) {
log.error("hdfs操作失败!!!", e);
}
}
}
  • 0
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值