Apache Pulsar的分布式集群模式构建，大数据开发开发知识点

最新推荐文章于 2024-09-13 22:55:59 发布

2401_84166236

最新推荐文章于 2024-09-13 22:55:59 发布

阅读量780

点赞数 8

分类专栏： 2024年程序员学习文章标签： apache 分布式大数据

本文链接：https://blog.csdn.net/2401_84166236/article/details/138041085

版权

2024年程序员学习专栏收录该内容

84 篇文章 0 订阅

订阅专栏

先自我介绍一下，小编浙江大学毕业，去过华为、字节跳动等大厂，目前阿里P7

深知大多数程序员，想要提升技能，往往是自己摸索成长，但自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年最新大数据全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上大数据知识点，真正体系化！

由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新

如果你需要这些资料，可以添加V获取：vip204888 （备注大数据）

正文

此操作, 仅需要初始化一次即可

首先初始化Pulsar集群元数据：
cd /usr/local/pulsar/bin

./pulsar initialize-cluster-metadata \
--cluster pulsar-cluster \
--zookeeper zookeeper1:2181,zookeeper2:2181,zookeeper3:2181 \
--configuration-store zookeeper1:2181,zookeeper2:2181,zookeeper3:2181 \
--web-service-url http://pulsar1:8080,pulsar2:8080,pulsar3:8080 \
--web-service-url-tls https://pulsar1:8443,pulsar2:8443,pulsar3:8443 \
--broker-service-url pulsar://pulsar1:6650,pulsar2:6650,pulsar3:6650 \
--broker-service-url-tls pulsar+ssl://pulsar1:6651,pulsar2:6651,pulsar3:6651

接着初始化bookkeeper集群：若出现提示输入Y/N：请输入Y

./bookkeeper shell metaformat

第三步: 启动bookkeeper服务

cd /usr/local/pulsar/bin

./pulsar-daemon start bookie

注意：三个节点都需要依次启动

验证是否启动：可三台都检测

./bookkeeper shell bookiesanity

提示：
Bookie sanity test succeeded 认为启动成功

第四步: 启动Broker

cd /usr/local/pulsar/bin

./pulsar-daemon start broker

注意：三个节点都需要依次启动

检测是否启动：

./pulsar-admin brokers list pulsar-cluster

提示：

[root@node1 bin]# ./pulsar-admin brokers iist pulsar-cluster
"node1.itcast.cn:8080"
"node2.itcast.cn:8080"
"node3.itcast.cn:8080"

认为启动成功

5. 测试

在pulsar的bin目录下, 专门提供了一个pulsar-client的客户端工具, Pulsar-Clinet工具允许使用者在运行的集群中消费并发送消息到
Pulsar Topic中

1：模拟开启消费者监听数据

./pulsar-client consume persistent://public/default/test -s "consumer-test"

2：模拟生产一条数据

./pulsar-client produce persistent://public/default/test --messages "hello-pulsa"

6. Apache Pulsar的可视化监控部署

第一步: 下载Pulsar-Manager

下载地址:

https://dist.apache.org/repos/dist/release/pulsar/pulsar-manager/pulsar-manager-0.3.0/apache-pulsar-manager-0.3.0-bin.tar.gz

第二步: 上传到服务器, 并解压

cd /usr/local
上传apache-pulsar-manager-0.3.0-bin.tar.gz
解压操作：
tar -zxf apache-pulsar-manager-0.3.0-bin.tar.gz

cd /usr/local/pulsar-manager
接着再次解压：
tar -xvf pulsar-manager.tar

第三步: 拷贝dist包到 pulsar-manager目录下并更名为ui

cd /usr/local/pulsar-manager/pulsar-manager
cp -r ../dist ui

第四步: 启动Pulsar

cd /usr/local/pulsar-manager/pulsar-manager
./bin/pulsar-manager

第五步: 初始化超级用户密码（只用执行一次）

CSRF\_TOKEN=$(curl http://192.168.8.108:7750/pulsar-manager/csrf-token)
curl \
   -H 'X-XSRF-TOKEN: $CSRF\_TOKEN' \
   -H 'Cookie: XSRF-TOKEN=$CSRF\_TOKEN;' \
   -H "Content-Type: application/json" \
   -X PUT http://192.168.8.108:7750/pulsar-manager/users/superuser \
   -d '{"name": "pulsar", "password": "pulsar", "description": "test", "email": "username@test.org"}'