win10搭建并运行kafka

前置条件：
想要在win运行kafka需要先配置好jdk喝zookeeper

jdk 下载地址：
https://www.oracle.com/technetwork/cn/java/javase/downloads/jdk8-downloads-2133151-zhs.html
本人用的是jdk1.8 ,之前电脑上有安装1.7的jdk，在运行kafka的时候报错：
Unsupported major.minor version 52.0。应该是我下的kafka版本太新，1.7jdk不支持，所以从新安装的1.8 总算把kafka 给跑起来了。jdk的安装和配置就不说了，比较简单，网上有很多教程，验证的时候注意，java -version 和javac -version 版本是一致 的需要，不然也会出错。

2.zookeeper 安装配置。

运行kafka为什么要依赖zookeeper:
需要一个地方存元信息。zookeeper又是分布式，做配置管理比较好的。于是就用上了。
没zookeeper的话，也需要一套机制存储元数据和交换集群信息的工具。

kafka的官方文档有说明。zookeeper是为了解决分布式一致性问题的工具。

至于kafka为什么使用zk，你首先要知道zk的作用, 作为去中心化的集群模式。
需要要消费者知道现在那些生产者（对于消费者而言，kafka就是生产者）是可用的。

如果没了zk消费者如何知道，如果每次消费者在消费之前都去尝试连接生产者测试下是否连接成功，那么效率问题怎么解决。

所以kafka需要zk，在kafka的设计中就依赖了zk了。

下载地址：https://zookeeper.apache.org/releases.html

下载后，解压放在目录D:\bigdata（本文所用的目录）下，关于zookeeper以及kafka的目录，路径中最好不要出现空格，比如D:\Program Files，尽量别用，运行脚本时会有问题。

①进入zookeeper的相关设置所在的文件目录，例如本文的：D:\bigdata\zookeeper-3.4.10\conf

②将"zoo_sample.cfg"复制一份并命名为"zoo.cfg"

③打开zoo.cfg(至于使用什么编辑器，根据自己喜好选即可)，找到并编辑：

将 dataDir=/tmp/zookeeper 改成
D:/bigdata/zookeeper-3.4.10/data或 D:\bigdata\zookeeper-3.4.10\data(路径仅为示例，具体可根据需要配置)

这里注意，路径要么是"/“分割，要么是转义字符”\"，这样会生成正确的路径(层级，子目录)。

④与配置jre类似，在系统环境变量中添加：

a.系统变量中添加ZOOKEEPER_HOME=D:\bigdata\zookeeper-3.4.10

b.编辑系统变量中的path变量，增加%ZOOKEEPER_HOME%\bin

⑤在zoo.cfg文件中修改默认的Zookeeper端口(默认端口2181)

⑥打开cmd窗口，输入zkserver，运行Zookeeper，运行结果如下：

恭喜，Zookeeper已经安装完成，已在2181端口运行。

3.安装运行kafka
kafka下载地址：http://kafka.apache.org/downloads

要下载Binary downloads这个类型，不要下载源文件，这种方便使用。下载后，解压放在D:\bigdata目录下。

①进入kafka配置文件所在目录，D:\bigdata\kafka_2.11-0.9.0.1\config

②编辑文件"server.properties"，找到并编辑：
将
log.dirs=/tmp/kafka-logs 改成 log.dirs=D:/bigdata/kafka_2.11-0.9.0.1/kafka-logs 或者 D:\bigdata\kafka_2.11-0.9.0.1\kafka-logs

同样注意：路径要么是"/“分割，要么是转义字符”\"，这样会生成正确的路径(层级，子目录)。错误路径情况可自行尝试，文件夹名为这种形式：bigdatakafka_2.11-0.9.0.1kafka-logs

③在server.properties文件中，zookeeper.connect=localhost:2181代表kafka所连接的zookeeper所在的服务器IP以及端口，可根据需要更改。本文在同一台机器上使用，故不用修改。

④kafka会按照默认配置，在9092端口上运行，并连接zookeeper的默认端口2181。

还有一点特别注意：在kafka安装目录中找到bin\windows目录中的kafka-run-class.bat找到179行为%CLASSPATH%加上双引号。不然运行kafka的时候回提示报错：错误: 找不到或无法加载主类 Files\Java\jdk1.7.0_80\lib;

####运行kafka并一个简单的例子
提示：请确保启动kafka服务器前，Zookeeper实例已经在运行，因为kafka的运行是需要zookeeper这种分布式应用程序协调服务。

①进入kafka安装目录D:\bigdata\kafka_2.11-0.9.0.1

②按下shift+鼠标右键，选择"在此处打开命令窗口"，打开命令行。

③在命令行中输入：
.\bin\windows\kafka-server-start.bat .\config\server.properties
回车。

④正确运行的情况为：

到目前为止，zookeeper以及kafka都已正确运行。保持运行状态，不要关闭。

创建主题

①创建主题，命名为"test0811"，replicationfactor=1(因为只有一个kafka服务器在运行)。可根据集群中kafka服务器个数来修改replicationfactor的数量，以便提高系统容错性等。

②在D:\bigdata\kafka_2.11-0.9.0.1\bin\windows目录下打开新的命令行

③输入命令：

kafka-topics.bat --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test0909

回车

现在这样就创建了一个topic ，这个窗口可以关闭了。

接下来 创建生产者(producer)和消费者(consumer)

①在D:\bigdata\kafka_2.11-0.9.0.1\bin\windows目录下打开新的命令行。

②输入命令，启动producer：

kafka-console-producer.bat --broker-list localhost:9092 --topic test0811

该窗口不要关闭。

③在同目录下打开新的命令行。

④输入命令，启动consumer：
kafka-console-consumer.bat --bootstrap-server localhost:9092 --topic test0909 --from-beginning

####基于Console 在bin目录下，后缀 .sh
创建Topic

bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test

Producer发送消息

bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test

在控制台输入要发送的消息：

This is a message
This is another message

Consumer接收消息

bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --from-beginning

输入命令后可以看到控制台输出了刚才的消息：

This is a message
This is another message

---

欢迎大家关注个人公众号
分享各种学习资料，包含java，linux，大数据等。资料包含视频文档以及源码，仅供学习交流和分享，不涉及任何商业用途。同时分享本人及投递的优质技术博文。