HDFS的java客户端api基本使用

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;

public class HdfsClientDemo {
	public static void main(String[] args) throws Exception {
		
		Configuration conf = new Configuration();
		conf.set("dfs.client.use.datanode.hostname","true");
		//指定本客户端上传文件到hdfs时需要保存的副本数为“2
		conf.set("dfs.replication", "2");
		//指定客户端上传的分块文件大小为64m
		conf.set("dfs.blocksize", "64m");
		//构造一个访问指定hdfs系统的客户端对象 
		FileSystem fs = FileSystem.get(new URI("hdfs://t124:9000/"), conf, "root");
		
		//上传一个hdfs文件,选择路劲和目标路劲
		fs.copyFromLocalFile(new Path("D:/woaini.txt"), new Path("/user/had/aaa/"));
		fs.close();
	}
}

在这里会遇到很多坑,简单说一下自己遇到的两个
首先保证9000端口的正常运行和hdfs配置文件的正确
在这里插入图片描述
还有一个在上传的时候遇到创建的文件权限问题
在这里插入图片描述
先看看权限
在这里插入图片描述
解决办法 hadoop fs -chmod user
在这里插入图片描述
修改文件的权限就可以了

二、在hdfs中下载文件(在window开发环境中做一些准备工作)
1、在window的环境变量中配置HADOOP_HOME
2. 在bin目录中添加文件
3.在这里插入图片描述

	 */
	@Test
	public void testGet() throws IllegalArgumentException, IOException{
		
		fs.copyToLocalFile(new Path("/user/had/aaa/f.txt"), new Path("f:/"));
		fs.close();
		
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值