Hadoop通过url地址访问HDFS

49 篇文章 0 订阅
32 篇文章 0 订阅
  • 新建Java工程
package com.cr.java;

import org.apache.hadoop.fs.FsUrlStreamHandlerFactory;
import org.junit.Test;

import javax.print.DocFlavor;
import java.io.IOException;
import java.io.InputStream;
import java.net.MalformedURLException;
import java.net.URL;
import java.net.URLConnection;

/**
 * 完成HDFS操作
 */
public class HDFS {
    /**
     * 第一步:读取HDFS文件
     */
    @Test
    public void readFile() throws Exception {
             System.setProperty("hadoop.home.dir", "E:\\hadoop-2.7.5");
            //注册HDFS流处理器
            URL.setURLStreamHandlerFactory(new FsUrlStreamHandlerFactory());
            //拿到HDFS文件系统的url地址
            //HDFS	NameNode	8020	fs.defaultFS	接收Client连接的RPC端口,用于获取文件系统metadata信息。
            URL url = new URL("hdfs://s150:8020/usr/xiaoqiu/hadoop/index.html");
            //拿到链接
            URLConnection con = url.openConnection();
            //读取文件,获取输入流
            InputStream is = con.getInputStream();
            //创建缓冲区
            byte[] buf = new byte[is.available()];
            //开始向缓冲区读取
            is.read(buf);
            //读取完关闭输入流
            is.close();
            //将缓冲区的内容转为字符串打印出来
            String str = new String(buf);
            System.out.println(str);
    }

}
  • 添加Hadoop所有的jar包
  • 添加日志文件log4j.properties(一定要加入到src文件夹下面)

































































评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值