Kafka单机模式部署

启动zookeeper

安装步骤见:zookeeper部署

下载kafka安装包

http://kafka.apache.org
在这里插入图片描述
解压包上传至linux服务器opt目录下

安装

cd /opt
# 解压tgz包
tar xvf kafka_2.12-2.3.0.tgz

// 修改server.properties配置文件
vi /opt/kafka_2.12-2.3.0/config/server.properties
	# broker的全局唯一编号,不能重复
	broker.id=0
	# 监听
	listeners=PLAINTEXT://:9092
	# 日志目录
	log.dirs=/home/hadoop/kafka-logs
	# 配置zookeeper的连接(如果不是本机,需要该为ip或主机名)
	zookeeper.connect=localhost:2181

// 启动kafka
/opt/kafka_2.12-2.3.0/bin/kafka-server-start.sh /opt/kafka_2.12-2.3.0/config/server.properties

# 使用jps名称查看是否正常运行
$ jps
9173 Kafka
9462 Jps
8589 QuorumPeerMain

Kafka的简单使用

创建topic


bin目录下:
kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test
参数说明: 
–zookeeper:指定kafka连接zk的连接url,该值和server.properties文件中的配置项{zookeeper.connect}一样 
–replication-factor:指定副本数量 
–partitions:指定分区数量 
–topic:主题名称

查看topic

bin目录下:
kafka-topics.sh --list --zookeeper localhost:2181

创建一个生产者

bin目录下:
./kafka-console-producer.sh --broker-list localhost:9092 --topic test

创建一个消费者

bin目录下:
./kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --from-beginning 
tips:
 1. --from-beginning 是否消费原始数据(该消费者启动器产生的数据)
 2. 旧版使用参数--zookeeper localhost:2181(consumer的信息将会存放在zk中)新版使用参数:--bootstrap-server localhost:9092(consumer的信息将会存放在kafka中)
  • 1
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Kubernetes (k8s) 是一个开源的容器编排平台,用于自动化容器化应用程序的部署、扩展和管理。要在 k8s 上安装 Kafka(一个分布式流处理平台)的单机版,首先你需要确保你的 k8s 集群已经设置好,并且具备运行 Docker 或者 Kubernetes 的能力。 以下是简单的步骤: 1. **下载 Kafka**: 从 Apache Kafka 官网下载适合的版本,例如 tar.gz 或者二进制镜像。你可以选择单节点模式,因为这是一个演示,但在生产环境中通常会使用多节点复制。 2. **部署 Kafka:** - 创建一个 Kubernetes Deployment 根据下载的 Kafka 镜像。这需要一个 YAML 文件,例如 `kafka-deployment.yaml`,内容包括了 Deployment 的名称、Kafka容器的镜像标签以及必要的环境变量(如 `ZOOKEEPER_CONNECT`、`KAFKA_LISTENERS` 等)。 ```yaml apiVersion: apps/v1 kind: Deployment metadata: name: kafka spec: replicas: 1 selector: matchLabels: app: kafka template: metadata: labels: app: kafka spec: containers: - name: kafka image: confluentinc/cp-kafka:latest env: - name: ZOOKEEPER_CONNECT value: "localhost:2181" - name: KAFKA_ADVERTISED_LISTENERS value: "PLAINTEXT://localhost:9092" ``` 3. **创建 Service:** 使用 Kubernetes Service 来暴露 Kafka 服务的端点。创建一个 `kafka-service.yaml`,定义一个 ClusterIP 类型的服务,暴露 Kafka 的端口 9092。 ```yaml apiVersion: v1 kind: Service metadata: name: kafka-service spec: type: ClusterIP selector: app: kafka ports: - name: kafka port: 9092 targetPort: 9092 ``` 4. **应用配置并部署:** 在你的 kubectl 命令行中,使用 `kubectl apply -f` 命令分别应用 Deployment 和 Service 的配置文件: ```bash kubectl apply -f kafka-deployment.yaml kubectl apply -f kafka-service.yaml ``` 5. **验证安装:** 使用 `kubectl get pods,svc` 确认 Kafka 的 Deployment 是否已启动并处于 Running 状态,Service 是否成功创建。 6.

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值