HDFS文件读取流程

最新推荐文章于 2024-07-22 02:03:32 发布

Jeep_Dom

最新推荐文章于 2024-07-22 02:03:32 发布

阅读量2.8k

点赞数

分类专栏： hadoop 文章标签： hdfs hadoop xml API

本文链接：https://blog.csdn.net/jeep_ouc/article/details/46345771

版权

本文档详细介绍了使用Hadoop的FileSystem API进行HDFS文件读取、目录查看、创建目录、文件上传和创建文件的操作步骤。通过示例代码展示了如何配置core-site.xml和hdfs-site.xml以连接HDFS集群。

摘要由CSDN通过智能技术生成

public class HDFSUtils {
	
	/**
	 * TODO: 获取文件系统
	 * @return
	 */
	public static FileSystem getFileSystem(){
		FileSystem hdfs = null ;
		try{
			Configuration conf = new Configuration();
			hdfs = FileSystem.get(conf);
		}catch(Exception e){
			e.printStackTrace();
		}
		return hdfs;
	}
	
}

/**
 * HDFS 通过 FileSystem API 测试类
 *
 */
public class HDFSFsTest {

	//读取文件内容
	@Test
	public void testRead() throws Exception{
		//1、获取文件系统
		FileSystem hdfs = HDFSUtils.getFileSystem();
		Path path = new Path("/opt/data/test/01.data");
		
		//2、打开文件输入流
		FSDataInputStream inputStream = hdfs.open(path);
		
		//读取文件内容到控制台形式  
		IOUtils.copyBytes(inputStream, System.out, 4096,false);
 		IOUtils.closeStream(inputStream);
	}
	
	//查看目录
	@Test
	public void testList() throws Exc