kafka
没有合适的昵称
个人工作学习笔记
展开
-
Kafka压力测试
Kafka压测用Kafka官方自带的脚本,对Kafka进行压测。Kafka压测时,可以查看到哪个地方出现了瓶颈(CPU,内存,网络IO)。一般都是网络IO达到瓶颈。kafka-consumer-perf-test.shkafka-producer-perf-test.shKafka Producer压力测试1.在kafka的bin目录下面有这两个文件bin/kafka-producer...原创 2020-02-11 10:21:55 · 1398 阅读 · 0 评论 -
kafka及kafka-manager的安装
备注:默认你安装了zk集群kafka的安装下载上传解压1.下载https://www.apache.org/dyn/closer.cgi?path=/kafka/1.0.0/kafka_2.11-1.0.0.tgz2.上传到master机器的~/bigdata/下3.解压: tar -xzf kafka_2.11-1.0.0.tgz在master上修改配置1.cd ~/bigdat...原创 2019-08-15 23:09:01 · 2265 阅读 · 0 评论 -
kafka使用的总结
kafka是什么1.在2016年之前,Kafka的定位是高吞吐量分布式消息系统,以下图片是2016年之前Kafka官网的标志图片:2.但是从2016年后,Kafka的定位是分布式流式处理平台,以下图片是Kafka官网的标志图片:kafka的一些应用场景1.Messaging System(消息系统)2.Storge System(存储系统,Kafka支持分布式数据存储,但是数据默认只...原创 2019-08-17 20:22:16 · 1627 阅读 · 0 评论 -
Kafka生产者事务
Kafka事务说到事务,我们都知道传统数据库,比如Oracle和Mysql,都是支持事务的,在一个事务中的所有的数据库操作,要么全部成功,要么全部失败,先看一下下面的伪代码:begin transaction # 开启事务,然后进行表的各种操作update table1;delete table2 where …;update table2;end transaction # 提...原创 2019-08-17 20:22:30 · 2307 阅读 · 0 评论 -
Kafka的ack机制
Kafka消息传递语义(Message Delivery Semantics)对于消息传递语义,一般存在三种类型语义:1.At most once - 消息传递过程中有可能丢失,丢失的消息也不会重新传递,其实就是保证消息不会重复发送或者重复消费2.At least once - 消息在传递的过程中不可能会丢失,丢失的消息会重新传递,其实就是保证消息不会丢失,但是消息有可能重复发送或者重新被消...原创 2019-08-17 20:22:42 · 5640 阅读 · 0 评论