2024年最新Apache Pulsar的分布式集群模式构建(1),2024年最新看完老板就给加薪了

img
img

网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。

需要这份系统化资料的朋友,可以戳这里获取

一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!

mv apache-pulsar-2.8.1 pulsar


### 第二步: 修改bookkeeper集群配置文件



cd /usr/local/pulsar/conf/
vim bookkeeper.conf

修改其第56行:修改本地ip地址(版本不一样位置可能不一样)
advertisedAddress=pulsar1
修改其39行:(版本不一样位置可能不一样)
journalDirectory=/usr/local/pulsar/tmp/journal
修改其389行:(版本不一样位置可能不一样)
ledgerDirectories=/usr/local/pulsar/tmp/ledgers
修改617行:(版本不一样位置可能不一样)
zkServers=zookeeper1:2181,zookeeper2:2181,zookeeper3:2181


### 第三步: 修改broker集群的配置文件



cd /usr/local/pulsar/conf/
vim broker.conf

修改第98行:修改集群的名称(版本不一样位置可能不一样)
clusterName=pulsar-cluster
修改第23行:配置zookeeper地址(版本不一样位置可能不一样)
zookeeperServers=zookeeper1:2181,zookeeper2:2181,zookeeper3:2181
修改第26行:配置zookeeper地址(版本不一样位置可能不一样)
configurationStoreServers=zookeeper1:2181,zookeeper2:2181,zookeeper3:2181
修改第44行:更改为本地ip地址(版本不一样位置可能不一样)
advertisedAddress=pulsar1


### 第四步: 将配置好bookies目录和brokers目录发送到第二台和第三台



cd /usr/local
scp -r pulsar/ pulsar2: P W D s c p − r p u l s a r / p u l s a r 3 : PWD scp -r pulsar/ pulsar3: PWDscprpulsar/pulsar3:PWD


### 第五步: 修改第二台和第三台的broker的地址和bookies地址



pulsar2:
cd /usr/local/pulsar/conf/
vim bookkeeper.conf
修改其第56行:修改本地ip地址
advertisedAddress=pulsar2

vim broker.conf
修改第44行:更改为本地ip地址
advertisedAddress=pulsar2

第三台节点:都更改为对应IP地址或者主机名即可


## 4. 启动


### 第一步: 首先启动zookeeper集群



启动命令在zookeeper1启动脚本中,三个同时启动
启动后注意查看状态,必须看到一个leader和两个follower才可以使用


### 第二步: 初始化元数据(此操作, 仅需要初始化一次即可)



> 
> **此操作, 仅需要初始化一次即可**
> 
> 
> 



首先初始化Pulsar集群元数据:
cd /usr/local/pulsar/bin



./pulsar initialize-cluster-metadata
–cluster pulsar-cluster
–zookeeper zookeeper1:2181,zookeeper2:2181,zookeeper3:2181
–configuration-store zookeeper1:2181,zookeeper2:2181,zookeeper3:2181
–web-service-url http://pulsar1:8080,pulsar2:8080,pulsar3:8080
–web-service-url-tls https://pulsar1:8443,pulsar2:8443,pulsar3:8443
–broker-service-url pulsar://pulsar1:6650,pulsar2:6650,pulsar3:6650
–broker-service-url-tls pulsar+ssl://pulsar1:6651,pulsar2:6651,pulsar3:6651


接着初始化bookkeeper集群:若出现提示输入Y/N:请输入Y



./bookkeeper shell metaformat


### 第三步: 启动bookkeeper服务



cd /usr/local/pulsar/bin



./pulsar-daemon start bookie


注意:三个节点都需要依次启动


验证是否启动:可三台都检测



./bookkeeper shell bookiesanity


提示:  
 Bookie sanity test succeeded 认为启动成功


### 第四步: 启动Broker



cd /usr/local/pulsar/bin



./pulsar-daemon start broker


注意:三个节点都需要依次启动


检测是否启动:



./pulsar-admin brokers list pulsar-cluster


提示:



[root@node1 bin]# ./pulsar-admin brokers iist pulsar-cluster
“node1.itcast.cn:8080”
“node2.itcast.cn:8080”
“node3.itcast.cn:8080”


认为启动成功


## 5. 测试


在pulsar的bin目录下, 专门提供了一个pulsar-client的客户端工具, Pulsar-Clinet工具允许使用者在运行的集群中消费并发送消息到  
 Pulsar Topic中


### 1:模拟开启消费者监听数据



./pulsar-client consume persistent://public/default/test -s “consumer-test”


### 2:模拟生产一条数据



./pulsar-client produce persistent://public/default/test --messages “hello-pulsa”


## 6. Apache Pulsar的可视化监控部署


### 第一步: 下载Pulsar-Manager


下载地址:



https://dist.apache.org/repos/dist/release/pulsar/pulsar-manager/pulsar-manager-0.3.0/apache-pulsar-manager-0.3.0-bin.tar.gz


### 第二步: 上传到服务器, 并解压




![img](https://img-blog.csdnimg.cn/img_convert/2ad2e1699b3918c58f0207f3d27c179c.png)
![img](https://img-blog.csdnimg.cn/img_convert/673654b49d623bb335b30e8c264b4bd1.png)

**网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。**

**[需要这份系统化资料的朋友,可以戳这里获取](https://bbs.csdn.net/forums/4f45ff00ff254613a03fab5e56a57acb)**


**一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!**


**网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。**

**[需要这份系统化资料的朋友,可以戳这里获取](https://bbs.csdn.net/forums/4f45ff00ff254613a03fab5e56a57acb)**


**一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!**

  • 28
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值