python脚本 从Kafka消费数据

前言:

小组领导让我写一个实时消费Kafka日志的脚本,我就一直在kafka Manager上找能创建消费者的地方,找了半天没找到!!!后来才明白,是脚本中你写的是哪个消费者就会自动创建消费者^_^!尴尬,下面是我的脚本,group_id是自动创建的消费者,运行完脚本kafka Manager上就会有这个group_id的消费者。

# -*- coding: UTF-8 -*-
import sys
from kafka import KafkaConsumer
'''从kafka读取日志'''

reload(sys)
sys.setdefaultencoding('utf8')


# 你要消费的topic
topic = 'web_car_source_log'

# 创建的消费者名称
group_id = 'web_car_log_format'


# 消费者实例
consumer = KafkaConsumer(topic, group_id=group_id, bootstrap_servers=['kafka_ip:9092', 'kafka_ip:9092', 'kafka_ip:9092'])


for message in consumer:
    line = message.value
    # 再这里可以处理你的业务逻辑
    print(line)
exit()

亲测可用。完毕

  • 0
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值