hdfs java uri怎么获取_hdfs的javaApi如何获取HA的地址

package com.bigdata.util

import org.apache.hadoop.conf._

import org.apache.hadoop.fs._

import org.apache.log4j._

import scala.collection.mutable.ArrayBuffer

class HDFSUtil {

def log: Logger = Logger.getLogger(this.getClass)

val prop = new PropertiesUtil("spark_config.properties")

val conf = new Configuration()

//指定hdfs的nameservice为nameservice1,是NameNode的URI

conf.set("fs.defaultFS", "hdfs://nameservice1");

//指定hdfs的nameservice为nameservice1

conf.set("dfs.nameservices", "nameservice1");

//cluster1下面有两个NameNode,分别是namenode51,namenode56

conf.set("dfs.ha.namenodes.nameservice1", "namenode51,namenode56");

//namenode51的RPC通信地址

conf.set("dfs.namenode.rpc-address.nameservice1.namenode51", "bigdata1:8020");

//namenode56的RPC通信地址

conf.set("dfs.namenode.rpc-address.nameservice1.namenode56", "bigdata2:8020");

//配置失败自动切换实现方式

conf.set("dfs.client.failover.proxy.provider.nameservice1", "org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider");

val fs = FileSystem.get(conf)

/**

* 创建文件,并向文件中写入内容

*/

def createFile(fileName: String, content: String) = {

val file = new Path(fileName)

val bytes = content.getBytes()

val output = fs.create(file)

output.write(bytes)

output.flush()

output.close()

log.info("create success,file:" + fileName)

}

}

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值