start-all.sh
jps
二、IDEA建立Maven项目
1.打开IDEA工具。鼠标双击桌面“IDEA”图标,如果是第一次使用,会弹出“Welcome IntelliJ IDEA”窗口,选择建立新项目条目“Create New Project”,如图所示。
2.确定要建立的项目类型。弹出新项目“New Project”窗口,选择要建立的项目类型“Maven”,点击下一步“Next”按钮。
3.填入工程信息。在弹出“New Project”窗口中,在GroupId对应文本框中输入“HDFSDemo”,在ArtifactId对应文本框中输入“project”,然后按“Next”按钮。
4.确认项目信息,完成项目创建。在弹出“New Project”窗口中,会显示新建立的项目的名称(name),及项目的存储位置(location)。点击“Finish”按钮,完成项目的初始建立。
5.此时进入IDEA的开发界面。如果在开发界面的上方弹出“Tip of the Day”窗口,点出”Close”按钮,关闭该窗口即可。
6.在右下角弹出的对话框中,选择Enable Auto-Import(如未弹出该对话框请忽略此步骤)。
7.显示IDEA开发环境的主窗口。并在窗口左边可以看到新建立的“project”项目。其中pom.xml里记录Maven项目的依赖等。
8.配置pom.xml文件。如下:
<?xml version = "1.0" encoding = "UTF-8" ?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
<modelVersion>4.0.0</modelVersion>
<groupId>experiment</groupId>
<artifactId>hadoop</artifactId>
<version>1.0-SNAPSHOT</version>
<properties>
<project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>
</properties>
<dependencies>
<dependency>
<groupId>org.apache.hadoop</groupId>
<artifactId>hadoop-common</artifactId>
<version>3.1.2</version>
</dependency>
<dependency>
<groupId>org.apache.hadoop</groupId>
<artifactId>hadoop-client</artifactId>
<version>3.1.2</version>
</dependency>
<dependency>
<groupId>org.apache.hadoop</groupId>
<artifactId>hadoop-hdfs</artifactId>
<version>3.1.2</version>
</dependency>
<dependency>
<groupId>junit</groupId>
<artifactId>junit</artifactId>
<version>4.12</version>
<scope>test</scope>
</dependency>
<dependency>
<groupId>log4j</groupId>
<artifactId>log4j</artifactId>
<version>1.2.17</version>
</dependency>
</dependencies>
</project>
9.查看导入依赖包。依赖包导入完成后,会在IDEA左侧窗口中看到新导入的依赖包(下图中显示部分依赖包内容)。
10.如果Maven项目依赖包上面方法导入失败。也可以在配置好pom.xml文件内容后,选中项目名“project”,点击鼠标右键,选择“Maven”下的“ReImport”项目,开始Maven项目依赖包的导入。(注意,如果在上一步即1中,如果Maven依赖包导入成功,此步不需要做)
11.至此,Hadoop开发环境的Maven项目建立完成。
三、HDFS java API代码编写
1、创建HDFS java代码,编写创建方法createFile()文件
2、删除文件
3、 上传文件
4、 下载文件
5、 文件读取
6、还可通过以下代码查看文件相关属性