Hadoop java 远程操作注意 Configuration

public class HmkdirsFromEclipse {

public static void main(String[] args) throws IOException { 
       Configuration conf = new Configuration();  
       conf.addResource("/etc/hadoop/conf/core-site.xml");
       conf.addResource("/etc/hadoop/conf/hdfs-site.xml");
       conf.set("fs.defaultFS", "hdfs://quickstart.cloudera:8020/");
       conf.set("hadoop.job.ugi", "cloudera");
       conf.set("fs.hdfs.impl",    org.apache.hadoop.hdfs.DistributedFileSystem.class.getName());
       FileSystem fs = FileSystem.get(conf); 
       boolean success = fs.mkdirs(new Path("/user/cloudera/testdirectory9"));
       System.out.println(success);
}


若部署在在hadoop 服务器上,
可以直接指向 conf.addResource("/etc/hadoop/conf/core-site.xml");
路径,
若不在haddoop 服务器上,可以复制两个 xml 文件到工程 src 目录下。
其中  conf.set("hadoop.job.ugi", "cloudera"); 
配置的是hadoop服务器名称
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
要将文件从Eclipse上传到Hadoop,可以使用以下步骤: 1. 在Eclipse中打开Hadoop项目或创建新项目。 2. 在项目中创建一个Java类,用于上传文件。 3. 在Java类中编写代码,以连接到Hadoop集群并上传文件。可以使用Hadoop API中的类和方法来实现此操作。 4. 运行Java类,以上传文件到Hadoop集群。 下面是一个简单的Java类示例,用于将本地文件上传到Hadoop集群: ``` import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.FileSystem; import org.apache.hadoop.fs.Path; import java.io.IOException; import java.net.URI; import java.net.URISyntaxException; public class UploadFileToHadoop { public static void main(String[] args) throws IOException, URISyntaxException { Configuration config = new Configuration(); FileSystem fs = FileSystem.get(new URI("hdfs://localhost:9000"), config); Path localFilePath = new Path("/path/to/local/file"); Path remoteFilePath = new Path("/path/to/remote/file"); fs.copyFromLocalFile(localFilePath, remoteFilePath); fs.close(); } } ``` 在这个例子中,我们首先创建了一个Configuration对象,用于指定Hadoop集群的连接参数。接下来,我们使用FileSystem.get()方法连接到Hadoop集群。然后,我们指定要上传的本地文件路径和要上传到的远程文件路径。最后,我们使用FileSystem.copyFromLocalFile()方法将本地文件上传到Hadoop集群,并关闭FileSystem对象。 请注意,这个例子假设你已经安装和配置好了Hadoop集群,并且可以访问Hadoop的NameNode和DataNode节点。如果你还没有安装和配置Hadoop,请先完成这些步骤。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值