Kafka
文章平均质量分 93
lppl010_
这个作者很懒,什么都没留下…
展开
-
kafka平衡leader
http://orchome.com/33Whenever a broker stops or crashes leadership for that broker's partitions transfers to other replicas. This means that by default when the broker is restarted it will only be a f...转载 2018-05-28 23:13:52 · 569 阅读 · 0 评论 -
java kafka 连接错误
http://blog.sina.com.cn/s/blog_998c49430102x49o.htmljava kafka 连接错误 (2017-01-05 13:28:11)转载▼标签: java kafka分类: javalinux kafka server 192.168.0.141 hostname bogon在windowsjava 代码package myzookeeper;impo...转载 2018-07-07 18:59:42 · 7218 阅读 · 0 评论 -
topic 与 broker 之间存在映射关系
kafka中,调用send()函数,发送消息时,没有指定broker,topic 与 broker 之间存在映射关系,映射关系保存在元数据中,由kafka底层去维护。连接池ProducerPool,包含SyncProducer。SyncProducer负责维持 producer与broker的连接。SyncProducer根据metaData中保存的broker信息,建立与相应broker的连接。...转载 2018-07-10 22:59:52 · 3661 阅读 · 0 评论 -
Kafka源码深度解析-序列9 -Consumer -SubscriptionState内部结构分析
https://blog.csdn.net/chunlongyu/article/details/52806408 在前面讲了,KafkaConsumer的一个重要部件就是SubscriptionState,这个部件维护了Consumer的消费状态,本篇对其内部结构进行分析。2种订阅策略在第1篇讲过,consumer可以自己指定要消费哪个partition,而不是让consumer...转载 2018-07-16 19:59:28 · 298 阅读 · 0 评论 -
Kafka源码分析之InFlightRequests
https://blog.csdn.net/lipeng_bigdata/article/details/51121651InFlightRequests是对已经被发送或正在被发送但是均未接收到响应的客户端请求集合的一个封装,在它内部,有两个重要的变量,如下: // 每个连接最大执行中请求数 private final int maxInFlightReques...转载 2018-07-16 19:44:11 · 1444 阅读 · 0 评论 -
Apache Kafka系列(四) 多线程Consumer方案
http://www.cnblogs.com/qizhelongdeyang/p/7355309.htmlApache Kafka系列(一) 起步 Apache Kafka系列(二) 命令行工具(CLI) Apache Kafka系列(三) Java API使用 Apache Kafka系列(四) 多线程Consumer方案 Apache Kafka系列(五) Kafka Connec...转载 2018-07-16 16:29:58 · 813 阅读 · 0 评论 -
直击Kafka的心脏——控制器
https://blog.csdn.net/u013256816/article/details/80865540直击Kafka的心脏——控制器2018年06月30日 12:07:44阅读数:308在Kafka集群中会有一个或者多个broker,其中有一个broker会被选举为控制器(Kafka Controller),它负责管理整个集群中所有分区和副本的状态。当某个分区的leader副本出现故障...转载 2018-07-03 09:56:57 · 230 阅读 · 0 评论 -
ONS(RocketMQ)为什么能够比Kafka支持更多的分区数量?
http://blog.sina.com.cn/s/blog_693f08470102vjc7.htmlONS(RocketMQ)为什么能够比Kafka支持更多的分区数量? (2015-03-13 20:09:05)转载▼标签: 股票 阿里 分布式数据库 简述: Kafka模型产生自日志记录场景,受到场景所限,Kafka不需要太高的并发度。而在阿里这样的大规模应用中,我们经过实践发现,原有模型已经...转载 2018-06-10 23:37:20 · 2211 阅读 · 0 评论 -
分布式消息队列RocketMQ&Kafka -- 消息的“顺序消费”-- 一个看似简单的复杂问题
https://blog.csdn.net/chunlongyu/article/details/53977819在说到消息中间件的时候,我们通常都会谈到一个特性:消息的顺序消费问题。这个问题看起来很简单:Producer发送消息1, 2, 3。。。 Consumer按1, 2, 3。。。顺序消费。但实际情况却是:无论RocketMQ,还是Kafka,缺省都不保证消息的严格有序消费!这个特性看起来...转载 2018-06-10 23:13:17 · 305 阅读 · 0 评论 -
kafka权威指南 第四章 第5节:提交和偏移量 [复制链接]
http://www.aboutyun.com/thread-22089-1-1.html本帖最后由 feilong 于 2017-6-30 08:16 编辑问题导读1.什么是一次提交(commit)?2.什么是偏移量(offset)?3.消费者如何提交偏移量?4.KafkaConsumer API 提供的提交偏移量的方法有哪些?5.commitSync()方法如何使用?当我们调用poll()时,...转载 2018-06-17 22:53:14 · 470 阅读 · 0 评论 -
kafka分区原理图
https://blog.csdn.net/liuwei063608/article/details/46378863一个Topic的多个分区,被分布在kafka集群中的多个server上。每个分区都有一个server为"leader";leader负责所有的读写操作,如果leader失效,那么将会有其他follower来接管(成为新的leader);follower只是单调的和leader 跟进...转载 2018-06-01 19:35:23 · 279 阅读 · 0 评论 -
kafka分区及副本在broker的分配
https://www.cnblogs.com/lytwajue/p/7205538.htmlkafka分区及副本在broker的分配部分内容參考自:http://blog.csdn.net/lizhitao/article/details/41778193以下以一个Kafka集群中4个Broker举例,创建1个topic包括4个Partition,2 Replication;数据Producer...转载 2018-06-01 10:08:26 · 1217 阅读 · 0 评论 -
Elasticsearch上手——结合Kibana的安装配置
https://blog.csdn.net/mydeman/article/details/54743893Elasticsearch上手——结合Kibana的安装配置2017年01月26日 14:34:35阅读数:9300安装Elasticsearch根据文档的说明,安装过程十分简单。系统环境:CentOS 7下载wget https://artifacts.elastic.co/downloa...转载 2018-06-21 15:54:25 · 192 阅读 · 0 评论 -
logstash、elasticsearch、kibana搭建日志平台
1、下载logstash a、官方下载地址:https://www.elastic.co/downloads/logstash b、解压:tar -xzvf logstash-5.1.1.tar.gz c、设置用户测试的配置文件:vim logstatsh_test.conf,编辑内容如下:input { stdin { }}output { ...转载 2018-06-21 15:52:22 · 1082 阅读 · 0 评论 -
kafka leader平衡策略
https://www.cnblogs.com/lushilin/p/8761790.html1.1个partition的默认leader是replicas中的第一个replica2.kafka controller会启动一个定时的check线程,kafka默认是5min周期,mafka是30min周期。去check当前的leader信息3.该线程的工作原理: controller check每台...转载 2018-05-28 23:16:39 · 581 阅读 · 0 评论 -
Kafka的Log存储解析
https://www.cnblogs.com/wxd0108/p/6518762.html Kafka中的Message是以topic为基本单位组织的,不同的topic之间是相互独立的。每个topic又可以分成几个不同的partition(每个topic有几个partition是在创建topic时指定的),每个partition存储一部分Message。借用官方的一张图,可以直观地看到t...转载 2018-08-08 14:20:46 · 122 阅读 · 0 评论