前几天接触到kafka,从kafka的部署中又认识到了zookeeper,从而了解到其的强大。
Zookeeper就是一个针对大型分布式系统的协调系统。
broker/producer/consumer/zookeeper关系:
kafka server就是broker,broker是存数据的,producer把数据给broker,consumer从broker取数据。
zookeeper是producer到broker和broker到consumer的选择分发器,所有的连接都要先注册到zookeeper上。
producer、consumer和broker都要注册到zookeeper上。
kafka运行:
开启zookeeper服务
#nohup bin/zookeeper-server-start.sh config/zookeeper.properties &
开启kafka服务
#bin/kafka-server-start.sh config/server.properties &
创建topic
#bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic testtest
运行消费者程序
#bin/kafka-console-consumer.sh --zookeeper localhost:2181 --topic testtest --from-beginning
生产者是我们的数据采集系统,调用producer接口,向kafka中写入数据。