Apache Pulsar的分布式集群模式构建,2024年最新3面直接拿到offer

先自我介绍一下,小编浙江大学毕业,去过华为、字节跳动等大厂,目前阿里P7

深知大多数程序员,想要提升技能,往往是自己摸索成长,但自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!

因此收集整理了一份《2024年最新大数据全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友。
img
img
img
img
img

既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上大数据知识点,真正体系化!

由于文件比较多,这里只是将部分目录截图出来,全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频,并且后续会持续更新

如果你需要这些资料,可以添加V获取:vip204888 (备注大数据)
img

正文

第三台节点:都更改为对应IP地址或者主机名即可


## 4. 启动


### 第一步: 首先启动zookeeper集群



启动命令在zookeeper1启动脚本中,三个同时启动
启动后注意查看状态,必须看到一个leader和两个follower才可以使用


### 第二步: 初始化元数据(此操作, 仅需要初始化一次即可)



> 
> **此操作, 仅需要初始化一次即可**
> 
> 
> 



首先初始化Pulsar集群元数据:
cd /usr/local/pulsar/bin



./pulsar initialize-cluster-metadata
–cluster pulsar-cluster
–zookeeper zookeeper1:2181,zookeeper2:2181,zookeeper3:2181
–configuration-store zookeeper1:2181,zookeeper2:2181,zookeeper3:2181
–web-service-url http://pulsar1:8080,pulsar2:8080,pulsar3:8080
–web-service-url-tls https://pulsar1:8443,pulsar2:8443,pulsar3:8443
–broker-service-url pulsar://pulsar1:6650,pulsar2:6650,pulsar3:6650
–broker-service-url-tls pulsar+ssl://pulsar1:6651,pulsar2:6651,pulsar3:6651


接着初始化bookkeeper集群:若出现提示输入Y/N:请输入Y



./bookkeeper shell metaformat


### 第三步: 启动bookkeeper服务



cd /usr/local/pulsar/bin



./pulsar-daemon start bookie


注意:三个节点都需要依次启动


验证是否启动:可三台都检测



./bookkeeper shell bookiesanity


提示:  
 Bookie sanity test succeeded 认为启动成功


### 第四步: 启动Broker



cd /usr/local/pulsar/bin



./pulsar-daemon start broker


注意:三个节点都需要依次启动


检测是否启动:



./pulsar-admin brokers list pulsar-cluster


提示:



[root@node1 bin]# ./pulsar-admin brokers iist pulsar-cluster
“node1.itcast.cn:8080”
“node2.itcast.cn:8080”
“node3.itcast.cn:8080”


认为启动成功


## 5. 测试


在pulsar的bin目录下, 专门提供了一个pulsar-client的客户端工具, Pulsar-Clinet工具允许使用者在运行的集群中消费并发送消息到  
 Pulsar Topic中


### 1:模拟开启消费者监听数据



./pulsar-client consume persistent://public/default/test -s “consumer-test”


### 2:模拟生产一条数据



./pulsar-client produce persistent://public/default/test --messages “hello-pulsa”


## 6. Apache Pulsar的可视化监控部署


### 第一步: 下载Pulsar-Manager


下载地址:



https://dist.apache.org/repos/dist/release/pulsar/pulsar-manager/pulsar-manager-0.3.0/apache-pulsar-manager-0.3.0-bin.tar.gz


### 第二步: 上传到服务器, 并解压



cd /usr/local
上传apache-pulsar-manager-0.3.0-bin.tar.gz
解压操作:
tar -zxf apache-pulsar-manager-0.3.0-bin.tar.gz

cd /usr/local/pulsar-manager
接着再次解压:
tar -xvf pulsar-manager.tar


### 第三步: 拷贝dist包到 pulsar-manager目录下并更名为ui



cd /usr/local/pulsar-manager/pulsar-manager
cp -r …/dist ui


### 第四步: 启动Pulsar



cd /usr/local/pulsar-manager/pulsar-manager
./bin/pulsar-manager


### 第五步: 初始化超级用户密码(只用执行一次)



CSRF_TOKEN=$(curl http://192.168.8.108:7750/pulsar-manager/csrf-token)
curl
-H ‘X-XSRF-TOKEN: C S R F _ T O K E N ′   − H ′ C o o k i e : X S R F − T O K E N = CSRF\_TOKEN' \ -H 'Cookie: XSRF-TOKEN= CSRF_TOKEN HCookie:XSRFTOKEN=CSRF_TOKEN;’
-H “Content-Type: application/json”
-X PUT http://192.168.8.108:7750/pulsar-manager/users/superuser
-d ‘{“name”: “pulsar”, “password”: “pulsar”, “description”: “test”, “email”: “username@test.org”}’


### 第六步: 访问Pulsar UI



http://192.168.8.108:7750/ui/index.html


用户名: pulsar  
 密码: pulsar


## Apache Pulsar的可视化监控基本使用


### 第一步: 点击 + new Enirconment 构建新环境,连接pulsar




**网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。**

**需要这份系统化的资料的朋友,可以添加V获取:vip204888 (备注大数据)**
![img](https://img-blog.csdnimg.cn/img_convert/6b9e3fffbf48fd4ca3dd05486c314fa0.png)

**一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!**

sar




**网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。**

**需要这份系统化的资料的朋友,可以添加V获取:vip204888 (备注大数据)**
[外链图片转存中...(img-ncJpRgL5-1713114210960)]

**一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!**

  • 3
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Apache Pulsar 是一个分布式的消息和流处理平台,用于解决大规模数据流和实时数据处理的问题。要掌握 Apache Pulsar,PDF格式的教程是一种很好的学习资源。以下是关于如何通过阅读《Mastering Apache Pulsar》这本书来学习 Apache Pulsar 的一些建议。 《Mastering Apache Pulsar》这本书是一本由专家撰写的详细指南,旨在帮助读者深入理解 Apache Pulsar 的核心概念、架构和功能。它提供了实例、案例研究和最佳实践,让读者能够更好地理解和应用 Apache Pulsar。 这本书的章节涵盖了 Apache Pulsar 的各个方,从入门级的内容到高级主题。在开始阅读之前,建议读者先对分布式系统和消息队列等相关概念有一定的了解。对于初学者来说,可以从第一章开始阅读,该章介绍了 Apache Pulsar 的基本概念和架构。 接下来的章节涵盖了如何部署和配置 Apache Pulsar,如何使用它进行流处理和实时数据分析,以及如何优化性能和保障数据的可靠性。书中还介绍了如何使用 Pulsar 的客户端 API,以及如何集成其他工具和技术,如 Apache Kafka、Apache Flink 等。 在阅读过程中,读者可以结合实际的示例和代码来加深理解。书中提供了大量的示例,读者可以尝试跟随示例进行实践,并根据自己的需求和场景进行修改和扩展。 总之,《Mastering Apache Pulsar》是一本深入理解和掌握 Apache Pulsar 的优秀教程。通过仔细阅读和实践,读者可以在 Apache Pulsar 上建立起扎实的基础,并在实际的项目中应用和推广 Apache Pulsar 分布式消息和流处理平台的优势。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值