Hadoop集群常用端口

在访问hadoop集群时,经常会遇到各种端口,如通过HTTP访问、TCP访问、RPC访问等。以下是收集整理的一些常用的hadoop集群默认端口。

Hadoop环境:2.x

一、hadoop配置文件说明: 

序号配置文件名配置对象主要内容
1core-site.xml集群全局参数用于定义系统级别的参数,如defaultFS、Hadoop的临时目录等
2hdfs-site.xmlHDFS参数HDFS名称节点和数据节点的存放位置、文件副本的个数、文件读取权限等
3mapred-site.xmlMapreduce参数包括JobHistory Server和应用程序参数两部分,如reduce任务的默认个数、任务所能够使用内存的默认上下限等
4yarn-site.xml集群资源管理系统参数配置ResourceManager、NodeManager的通信端口,web监控端口等

二、hadoop常用端口说明: 

组件配置文件节点默认端口配置参数用途说明
HDFShdfs-site.xmlDataNode50010dfs.datanode.addressdatanode服务端口,用于数据传输
hdfs-site.xmlDataNode50020dfs.datanode.ipc.addressipc服务的端口
hdfs-site.xmlDataNode50075dfs.datanode.http.addresshttp服务的端口
hdfs-site.xmlDataNode50475dfs.datanode.https.addresshttps服务的端口
core-site.xmlNameNode8020fs.defaultFS接收Client连接的RPC端口,用于获取文件系统metadata信息,设置默认的文件系统
hdfs-site.xmlNameNode9000dfs.namenode.rc-addressRPC服务的端口
hdfs-site.xmlNameNode50070dfs.namenode.http-addresshttp服务的端口
hdfs-site.xmlNameNode50470dfs.namenode.https-addresshttps服务的端口
hdfs-site.xmlSecondary NameNode50090dfs.secondary.http-addressSecondary NameNode的HTTP服务
hdfs-site.xmlSecondary NameNode50091dfs.secondary.https-addressSecondary NameNode的HTTPS服务
hdfs-site.xmlBackup NameNode50100dfs.namenode.backup.addressBackup NameNode服务端口
hdfs-site.xmlBackup NameNode50105dfs.namenode.backup.http-addressBackup NameNode HTTP服务
hdfs-site.xmlJournalNode8480dfs.journalnode.http-addressHTTP服务
hdfs-site.xmlJournalNode8481dfs.journalnode.https-addressHTTPS服务
hdfs-site.xmlJournalNode8485dfs.journalnode.rpc-addressRPC服务
hdfs-site.xmlZKFC8019dfs.ha.zkfc.portZooKeeper FailoverController,用于NN HA
YARNyarn-site.xmlResourceManager8030yarn.resourcemanager.scheduler.addressscheduler组件的IPC端口
yarn-site.xmlResourceManager8031yarn.resourcemanager.resource-tracker.addressIPC
yarn-site.xmlResourceManager8032yarn.resourcemanager.addressRM的applications manager(AM)端口
yarn-site.xmlResourceManager8033yarn.resourcemanager.admin.addressIPC
yarn-site.xmlResourceManager8040yarn.nodemanager.localizer.addresslocalizer IPC
yarn-site.xmlResourceManager8041yarn.nodemanager.addressNM中container manager的端口
yarn-site.xmlResourceManager8042yarn.nodemanager.webapp.addresshttp服务端口
yarn-site.xmlResourceManager8088yarn.resourcemanager.webapp.addresshttp服务端口
yarn-site.xmlJobHistory Server10020mapreduce.jobhistory.addressIPC
yarn-site.xmlJobHistory Server19888mapreduce.jobhistory.webapp.addresshttp服务端口
Hbasehbase-site.xmlMaster8080hbase.rest.portHBase REST server的端口
hbase-site.xmlMaster60000hbase.master.portIPC
hbase-site.xmlMaster60010hbase.master.info.porthttp服务端口,0.98版本以前是60010,以后是16010
hbase-site.xmlRegionServer60020hbase.regionserver.portIPC,0.98版本以前是60020,以后是16020
hbase-site.xmlRegionServer60030hbase.regionserver.info.porthttp服务端口,0.98版本以前是60030,以后是16030
hbase-site.xmlHQuorumPeer2181hbase.zookeeper.property.clientPortHBase-managed ZK mode,使用独立的ZooKeeper集群则不会启用该端口
hbase-site.xmlHQuorumPeer2888hbase.zookeeper.peerportHBase-managed ZK mode使用的端口。使用独立的ZooKeeper集群则不会启用该端口
hbase-site.xmlHQuorumPeer3888hbase.zookeeper.leaderportHBase-managed ZK mode用来选择Leader使用的端口。使用独立的ZooKeeper集群则不会启用该端口
hbase-site.xmlHQuorumPeer8080hbase.rest.portHBase REST server的端口
Hivehive-metastoreMetastore9083

/etc/default/hive-metastore中

export PORT=<port>

来更新默认端口

 
hive-env.shHiveServer10000

/etc/hive/conf/hive-env.sh中

export HIVE_SERVER2_THRIFT_PORT=<port>来更新默认端口

 
ZooKeeperzoo.cfgServer2181

/etc/zookeeper/conf/zoo.cfg中

clientPort=<port>

对客户端提供服务的端口
zoo.cfgServer2888

/etc/zookeeper/conf/zoo.cfg中

server.x=[hostname]:nnnnn[:nnnnn]

标红部分

follower用来连接到leader,只在leader上监听该端口,是Follower服务器与Leader服务器交换信息的端口
zoo.cfgServer3888

/etc/zookeeper/conf/zoo.cfg中

server.x=[hostname]:nnnnn[:nnnnn]

标红部分

当Leader挂掉时,重新选举Leader所使用的端口

core-default.xml:具体说明可参考官网

hdfs-default.xml:具体说明可参考官网

mapred-default.xml:具体说明可参考官网

yarn-default.xml:具体说明可参考官网

 

 

 

  • 1
    点赞
  • 22
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

magic_kid_2010

你的支持将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值