《Kafka权威指南》阅读小记

在这里插入图片描述
在这里插入图片描述

  • cat > test.txt << EOF:往test.txt写入内容,EOF表示结束。
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

  • 不要让消费者的数量超过分区的数量,会导致一部分消费者闲置。

  • 为每一个需要获取一个或多个主题全部消息的应用程序创建一个消费者群组,然后往群组里添加消费者来伸缩读取能力和处理能力,群组里的每个消费者只处理一部分消息。
    在这里插入图片描述

  • 一个消费者使用一个线程。

  • 消费者需要通过轮询发送心跳,如果一次性处理太多消息,消费者需要很多时间来处理消息,可能导致无法及时轮询避免会话过期。
    在这里插入图片描述

  • 如果是持续运行的消费者,偏移量提交一次失败没有太大的关系,但是如果要关闭消费者或者要进行再均衡,就要保证最后一次偏移量的提交要成功。

  • Kafka使用主题来组织数据,每个主题被分成若干个分区,每个分区有多个副本。

  • 每个分区都有一个首领副本,为了保证一致性,所有生产者和消费者的请求都会经过这个副本;首领副本以外的副本都是跟随者副本,跟随者副本不处理来自客户端的请求,它们唯一的任务就是从首领那里复制消息,保持与首领一致的状态,如果首领发生崩溃,其中的一个跟随者会被提升为新首领。

  • Kafka使用零复制技术向客户端发送消息,kafka直接把消息从文件里发送到网络通道,而不需要经过任何中间缓冲区,这是kafka与其他大部分数据库系统不一样的地方,其他数据库在将数据发送给客户端之前会先把它们保存在本地缓存里。
    在这里插入图片描述
    在这里插入图片描述

  • Kafka可以保证分区消息的顺序;只有当被写入分区的所有同步副本时,它才被认为是“已提交”的。消费者只能读取已经提交的消息。
    在这里插入图片描述

  • 流式处理是指实时地处理一个或多个事件流(有序的无边界的不可变的数据流)。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值