kafka
chenjieit619
这个作者很懒,什么都没留下…
展开
-
Windows平台搭建Kafka源代码开发环境(Eclipse版本)
【原创】Windows平台搭建Kafka源代码开发环境(Eclipse版本) 最近在研究Kafka源代码,需要自己搭建一个开发环境。官网上给出的提示略显简单,照着做了一遍也碰到了一些问题。特此记录下来。开发环境: Oracle Java 1.7_u71 + Eclipse 4.4.1 + Scala 2.10.4 + Gradle 2.3 + Kafka 0.8.2.1一、G转载 2016-06-17 11:37:10 · 527 阅读 · 0 评论 -
java实现Kafka的消费者示例
使用java实现Kafka的消费者123456789101112131415161718192021222324252627282930转载 2016-10-28 14:41:08 · 2710 阅读 · 0 评论 -
重置kafka的offset
如果你在使用Kafka来分发消息,在数据处理的过程中可能会出现处理程序出异常或者是其它的错误,会造成数据丢失或不一致。这个时候你也许会想要通过kafka把数据从新处理一遍,我们知道kafka默认会在磁盘上保存到7天的数据,你只需要把kafka的某个topic的consumer的offset设置为某个值或者是最小值,就可以使该consumer从你设置的那个点开始消费。 查询topic转载 2016-11-04 09:43:44 · 2641 阅读 · 0 评论 -
Kafka与Logstash的数据采集
原文地址:http://www.cnblogs.com/Leo_wl/p/5747108.htmlKafka与Logstash的数据采集基于Logstash跑通Kafka还是需要注意很多东西,最重要的就是理解Kafka的原理。Logstash工作原理由于Kafka采用解耦的设计思想,并非原始的发布订阅,生产者负责产生消息,直接推送给消费者。而是在中间转载 2016-11-04 09:41:40 · 2556 阅读 · 0 评论 -
使用Java API创建(create),查看(describe),列举(list),删除(delete)Kafka主题(Topic)
原文地址:http://blog.csdn.net/changong28/article/details/39325079使用Kafka的同学都知道,我们每次创建Kafka主题(Topic)的时候可以指定分区数和副本数等信息,如果将这些属性配置到server.properties文件中,以后调用Java API生成的主题将使用默认值,先改变需要使用命令bin/kafka-topics.sh转载 2016-08-19 15:48:14 · 655 阅读 · 0 评论 -
kafka系列文章索引
apache kafka在数据处理中特别是日志和消息的处理上会有很多出色的表现,这里写个索引,关于kafka的文章暂时就更新到这里,最近利用空闲时间在对kafka做一些功能性增强,并java化,虽然现在已经有很多这样的版本,但是根据实际需求来改变才是最适合的。首先当然推荐的是kafka的官网 http://kafka.apache.org/ 在官网最值得参考的文章就是kafka转载 2016-08-19 10:50:33 · 235 阅读 · 0 评论 -
分布式消息系统Kafka初步
终于可以写kafka的文章了,Mina的相关文章我已经做了索引,在我的博客中置顶了,大家可以方便的找到。从这一篇开始分布式消息系统的入门。在我们大量使用分布式数据库、分布式计算集群的时候,是否会遇到这样的一些问题:l 我想分析一下用户行为(pageviews),以便我能设计出更好的广告位l 我想对用户的搜索关键词进行统计,分析出当前的流行趋势。这个很有意思,在经转载 2016-08-19 10:47:05 · 236 阅读 · 0 评论 -
apache kafka系列之server.properties配置文件参数说明
apache kafka中国社区QQ群:162272557每个kafka broker中配置文件server.properties默认必须配置的属性如下:[java] view plain copy broker.id=0 num.network.threads=2 num.io.threads=8 sock转载 2016-06-23 09:20:01 · 233 阅读 · 0 评论 -
安装和测试Kafka
安装和测试Kafka原文地址:http://blog.javachen.com/2015/03/17/install-and-test-kafka.html2015.03.17 | Comments本文主要介绍如何在单节点上安装 Kafka 并测试 broker、producer 和 consumer 功能。下载进入下载页面:http://kafka.a转载 2016-06-17 19:00:51 · 367 阅读 · 0 评论 -
Kafka0.8.2.1删除topic逻辑
前提条件: 在启动broker时候开启删除topic的开关,即在server.properties中添加: delete.topic.enable=true命令: bin/kafka-topics.sh --zookeeper zk_host:port/chroot --delete --topic my_topic_name这条命令其实就是在zookeeper(假设你的chroot就是转载 2016-06-17 15:25:04 · 457 阅读 · 0 评论 -
java实现Kafka生产者示例
使用java实现Kafka的生产者12345678910111213141516171819202122232425262728转载 2016-10-28 14:42:56 · 906 阅读 · 0 评论