在访问hadoop集群时,经常会遇到各种端口,如通过HTTP访问、TCP访问、RPC访问等。以下是收集整理的一些常用的hadoop集群默认端口。
Hadoop环境:2.x
一、hadoop配置文件说明:
序号 | 配置文件名 | 配置对象 | 主要内容 |
1 | core-site.xml | 集群全局参数 | 用于定义系统级别的参数,如defaultFS、Hadoop的临时目录等 |
2 | hdfs-site.xml | HDFS参数 | HDFS名称节点和数据节点的存放位置、文件副本的个数、文件读取权限等 |
3 | mapred-site.xml | Mapreduce参数 | 包括JobHistory Server和应用程序参数两部分,如reduce任务的默认个数、任务所能够使用内存的默认上下限等 |
4 | yarn-site.xml | 集群资源管理系统参数 | 配置ResourceManager、NodeManager的通信端口,web监控端口等 |
二、hadoop常用端口说明:
组件 | 配置文件 | 节点 | 默认端口 | 配置参数 | 用途说明 |
HDFS | hdfs-site.xml | DataNode | 50010 | dfs.datanode.address | datanode服务端口,用于数据传输 |
hdfs-site.xml | DataNode | 50020 | dfs.datanode.ipc.address | ipc服务的端口 | |
hdfs-site.xml | DataNode | 50075 | dfs.datanode.http.address | http服务的端口 | |
hdfs-site.xml | DataNode | 50475 | dfs.datanode.https.address | https服务的端口 | |
core-site.xml | NameNode | 8020 | fs.defaultFS | 接收Client连接的RPC端口,用于获取文件系统metadata信息,设置默认的文件系统 | |
hdfs-site.xml | NameNode | 9000 | dfs.namenode.rc-address | RPC服务的端口 | |
hdfs-site.xml | NameNode | 50070 | dfs.namenode.http-address | http服务的端口 | |
hdfs-site.xml | NameNode | 50470 | dfs.namenode.https-address | https服务的端口 | |
hdfs-site.xml | Secondary NameNode | 50090 | dfs.secondary.http-address | Secondary NameNode的HTTP服务 | |
hdfs-site.xml | Secondary NameNode | 50091 | dfs.secondary.https-address | Secondary NameNode的HTTPS服务 | |
hdfs-site.xml | Backup NameNode | 50100 | dfs.namenode.backup.address | Backup NameNode服务端口 | |
hdfs-site.xml | Backup NameNode | 50105 | dfs.namenode.backup.http-address | Backup NameNode HTTP服务 | |
hdfs-site.xml | JournalNode | 8480 | dfs.journalnode.http-address | HTTP服务 | |
hdfs-site.xml | JournalNode | 8481 | dfs.journalnode.https-address | HTTPS服务 | |
hdfs-site.xml | JournalNode | 8485 | dfs.journalnode.rpc-address | RPC服务 | |
hdfs-site.xml | ZKFC | 8019 | dfs.ha.zkfc.port | ZooKeeper FailoverController,用于NN HA | |
YARN | yarn-site.xml | ResourceManager | 8030 | yarn.resourcemanager.scheduler.address | scheduler组件的IPC端口 |
yarn-site.xml | ResourceManager | 8031 | yarn.resourcemanager.resource-tracker.address | IPC | |
yarn-site.xml | ResourceManager | 8032 | yarn.resourcemanager.address | RM的applications manager(AM)端口 | |
yarn-site.xml | ResourceManager | 8033 | yarn.resourcemanager.admin.address | IPC | |
yarn-site.xml | ResourceManager | 8040 | yarn.nodemanager.localizer.address | localizer IPC | |
yarn-site.xml | ResourceManager | 8041 | yarn.nodemanager.address | NM中container manager的端口 | |
yarn-site.xml | ResourceManager | 8042 | yarn.nodemanager.webapp.address | http服务端口 | |
yarn-site.xml | ResourceManager | 8088 | yarn.resourcemanager.webapp.address | http服务端口 | |
yarn-site.xml | JobHistory Server | 10020 | mapreduce.jobhistory.address | IPC | |
yarn-site.xml | JobHistory Server | 19888 | mapreduce.jobhistory.webapp.address | http服务端口 | |
Hbase | hbase-site.xml | Master | 8080 | hbase.rest.port | HBase REST server的端口 |
hbase-site.xml | Master | 60000 | hbase.master.port | IPC | |
hbase-site.xml | Master | 60010 | hbase.master.info.port | http服务端口,0.98版本以前是60010,以后是16010 | |
hbase-site.xml | RegionServer | 60020 | hbase.regionserver.port | IPC,0.98版本以前是60020,以后是16020 | |
hbase-site.xml | RegionServer | 60030 | hbase.regionserver.info.port | http服务端口,0.98版本以前是60030,以后是16030 | |
hbase-site.xml | HQuorumPeer | 2181 | hbase.zookeeper.property.clientPort | HBase-managed ZK mode,使用独立的ZooKeeper集群则不会启用该端口 | |
hbase-site.xml | HQuorumPeer | 2888 | hbase.zookeeper.peerport | HBase-managed ZK mode使用的端口。使用独立的ZooKeeper集群则不会启用该端口 | |
hbase-site.xml | HQuorumPeer | 3888 | hbase.zookeeper.leaderport | HBase-managed ZK mode用来选择Leader使用的端口。使用独立的ZooKeeper集群则不会启用该端口 | |
hbase-site.xml | HQuorumPeer | 8080 | hbase.rest.port | HBase REST server的端口 | |
Hive | hive-metastore | Metastore | 9083 | /etc/default/hive-metastore中 export PORT=<port> 来更新默认端口 | |
hive-env.sh | HiveServer | 10000 | /etc/hive/conf/hive-env.sh中 export HIVE_SERVER2_THRIFT_PORT=<port>来更新默认端口 | ||
ZooKeeper | zoo.cfg | Server | 2181 | /etc/zookeeper/conf/zoo.cfg中 clientPort=<port> | 对客户端提供服务的端口 |
zoo.cfg | Server | 2888 | /etc/zookeeper/conf/zoo.cfg中 server.x=[hostname]:nnnnn[:nnnnn] 标红部分 | follower用来连接到leader,只在leader上监听该端口,是Follower服务器与Leader服务器交换信息的端口 | |
zoo.cfg | Server | 3888 | /etc/zookeeper/conf/zoo.cfg中 server.x=[hostname]:nnnnn[:nnnnn] 标红部分 | 当Leader挂掉时,重新选举Leader所使用的端口 |
core-default.xml:具体说明可参考官网。
hdfs-default.xml:具体说明可参考官网。
mapred-default.xml:具体说明可参考官网。
yarn-default.xml:具体说明可参考官网。