Hadoop系列组件端口总结

Hadoop系列组件端口总结

1.Hadoop

组件进程名称默认端口配置项(配置文件)说明
HDFSNameNode8020fs.defaultFS(core-site.xml)接收Client连接的RPC端口,用于获取文件系统metadata信息。
HDFSNameNode50070dfs.namenode.http-address(hdfs-site.xml)http服务端口 nameNode web UI
HDFSNameNode50470dfs.namenode.https-address(hdfs-site.xmhttps服务端口
HDFSDataNode50010dfs.datanode.address(hdfs-site.xml)datanode服务端口,用于数据传输
HDFSDataNode50075dfs.datanode.http.address(hdfs-site.xml)http服务端口
HDFSDataNode50475dfs.datanode.https.address(hdfs-site.xml)https服务端口
HDFSDataNode50020dfs.datanode.ipc.address(hdfs-site.xml)ipc服务的端口
HDFSJournalNode8485dfs.journalnode.rpc-address(hdfs-site.xml)JournalNode RPC服务地址和端口
HDFSJournalNode8480dfs.journalnode.http-address(hdfs-site.xml)HTTP服务
HDFSZKFC8019dfs.ha.zkfc.port(hdfs-site.xml)ZooKeeper FailoverController,用于NN HA

注:hadoop2.x之后 没有SecondaryNamenode,Jobracker和Tasktrackers相关配置

2.YARN

组件进程名称默认端口配置项(配置文件)说明
YARNResourceManager8088yarn.resourcemanager.webapp.address(yarn-site.xml)http服务端口
YARNResourceManager8033yarn.resourcemanager.admin.address(yarn-site.xml)IPC
YARNResourceManager8031yarn.resourcemanager.resource-tracker.address(yarn-site.xml)IPC
YARNResourceManager8030yarn.resourcemanager.scheduler.address(yarn-site.xml)scheduler组件的IPC端口
YARNResourceManager8032yarn.resourcemanager.address(yarn-site.xml)RM的applications manager(ASM)端口
YARNNodeManager8040yarn.nodemanager.localizer.address(yarn-site.xml)localizer IPC
YARNNodeManager8041yarn.nodemanager.address(yarn-site.xml)NM中container manager的端口
YARNNodeManager8042yarn.nodemanager.webapp.address(yarn-site.xml)http服务端口
YARNJobHistory10020mapreduce.jobhistory.address(mapred-site.xml)IPC
YARNJobHistory19888mapreduce.jobhistory.webapp.address(mapred-site.xml)http服务端口

3.Hive

组件进程名称默认端口配置项(配置文件)说明
HiveMetaStore9083hive.metastore.uris(hive-site.xml)MetaStore端口
HiveHiveServer210000HiveServer2 PortHiveServer2端口

4.Hbase

组件进程名称默认端口配置项(配置文件)说明
HbaseMaster60000hbase.master.portIPC
HbaseMaster60010hbase.master.info.porthttp服务端口
HbaseRegionServer60020hbase.regionserver.portIPC
HbaseRegionServer60030hbase.regionserver.info.porthttp服务端口
HbaseHQuorumPeer2181hbase.zookeeper.property.clientPortHBase-managed ZK mode,使用独立的ZooKeeper集群则不会启用该端口。
HbaseHQuorumPeer2888hbase.zookeeper.peerportHBase-managed ZK mode,使用独立的ZooKeeper集群则不会启用该端口。
HbaseHQuorumPeer3888hbase.zookeeper.leaderportHBase-managed ZK mode,使用独立的ZooKeeper集群则不会启用该端口。

注:HQuorumPeer进程说明(Hbase需要依耐zookeeper)
1,先启动hbase:hbase有内置的zookeeper,如果没有装zookeeper,启动hbase的时候会有一个HQuorumPeer进程。
2.先启动zookeeper:如果用外置的zookeeper管理hbase,则先启动zookeeper,然后启动hbase,启动后会有一个QuorumPeerMain进程。
两个进程的名称不一样:
HQuorumPeer表示hbase管理的zookeeper
QuorumPeerMain表示zookeeper独立的进程

5.Zookeeper

组件进程名称默认端口配置项(配置文件)说明
ZooKeeperServer2181clientPort(zoo.cfg)MetaStore端口,对cline端提供服务
ZooKeeperServer2888server.x=[hostname]:nnnnn[:nnnnn]集群内机器通讯使用(Leader监听此端口)
ZooKeeperServer3888server.x=[hostname]:nnnnn[:nnnnn]用于leader选举的。

6.Spark

组件进程名称默认端口配置项(配置文件)说明
SparkDefault Master RPC port7077
SparkDefault Worker RPC port7078
SparkDefault Master web UI port18080
SparkDefault Worker web UI port18081
SparkHistory Server18088history.port(spark-env.sh)

说明:
apache hadoop,CDH,HDP等端口会有不一致的情况

Cloudera提供端口信息明细:
https://docs.cloudera.com/documentation/enterprise/6/6.3/topics/cdh_ports.html
https://docs.cloudera.com/HDPDocuments/HDP3/HDP-3.1.5/administration/content/hdfs-ports.html

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值