快乐骑行^_^
全栈技术博主,博主会持续更新专栏文章,欢迎关注和订阅博主,欢迎私信与博主交流技术。
展开
-
Kafka系列之:对做了条带划分的Kafka节点磁盘实现扩容的技术方案
lvdisplay -m 是用于显示逻辑卷的详细信息,包括逻辑卷路径、名称、卷组名称、UUID、读写权限、创建主机和时间、状态、打开次数、大小、当前逻辑区块数、段数、分配方式、预读扇区数和块设备信息。是一个用于显示逻辑卷(Logical Volume)及其关联的物理卷(Physical Volume)和逻辑卷快照(Logical Volume Snapshot)的命令。在输出结果中,每个逻辑卷都会显示其相关的物理卷和逻辑卷快照,以及它们之间的映射关系。原创 2024-10-31 11:03:28 · 466 阅读 · 0 评论 -
Kafka系列之:把Kafka节点的普通磁盘升级为固态硬盘ssd的详细步骤
磁盘条带划分是将一个文件或数据块分散存储在多个物理磁盘上的技术。它可以提高磁盘的性能和吞吐量。这是一个rsync命令的示例,用于将源目录(/src)中的文件和文件夹同步到目标目录(/dst)。原创 2024-10-30 16:55:33 · 47 阅读 · 0 评论 -
Kafka系列之:Kafka集群磁盘条带划分和Kafka集群磁盘扩容详细方案
lsblk命令的输出以树状结构显示块设备的层次关系。每个块设备都有一个唯一的名称,通常以/dev/开头。输出中的每一行表示一个块设备,其中包括其名称、大小、类型、挂载点和其他属性。这是一个在Linux系统中使用LVM(逻辑卷管理)创建逻辑卷的命令。这是一个使用lsblk命令显示的块设备信息的示例。lvcreate命令用于创建逻辑卷。lsblk命令用于列出块设备的信息,包括磁盘、分区和其他存储设备。原创 2024-10-22 18:49:07 · 239 阅读 · 0 评论 -
Kafka系列之:Kafka集群新增节点后实现数据均衡
Kafka系列之:Kafka集群新增节点后实现数据均衡原创 2024-10-22 17:36:12 · 547 阅读 · 0 评论 -
Kafka系列之:生产者性能调优
Kafka系列之:生产者性能调优原创 2024-10-12 14:30:52 · 287 阅读 · 0 评论 -
Kafka系列之:安装部署CMAK,CMAK管理大型Kafka集群参数调优
Kafka系列之:安装部署CMAK,CMAK管理大型Kafka集群参数调优原创 2024-09-27 03:53:07 · 462 阅读 · 0 评论 -
Kafka系列之:安装使用kafka_exporter详细步骤
【代码】Kafka系列之:安装使用kafka_exporter详细步骤。原创 2024-09-24 12:46:27 · 458 阅读 · 0 评论 -
Kafka系列之:Dead Letter Queue死信队列DLQ
当设置errors.deadletterqueue.context.headers.enable参数为true时,记录头将被添加到DLQ中——默认值为false。然后,可以使用kcat(以前称为kafkacat)实用程序,用于Confluent Platform查看记录头并确定记录失败的原因。要确定记录是否失败,必须使用内部度量标准,或计算源中的记录数并将其与处理的记录数进行比较。当errors.tolerance设置为none时,错误或无效记录会导致连接器任务立即失败,并将连接器置于失败状态。原创 2024-08-14 12:36:02 · 541 阅读 · 0 评论 -
Kafka系列之:Kafka存储数据相关重要参数理解
在Apache Kafka中,数据底层文件主要包括以下几种类型:这几个文件是Apache Kafka在存储和管理消息时使用的,以下是对每个文件的解释:原创 2024-07-17 17:09:21 · 2065 阅读 · 0 评论 -
Kafka系列之:Exactly-once support
Kafka Connect 能够为接收器连接器(从版本 0.11.0 开始)和源连接器(从版本 3.3.0 开始)提供一次性语义。请注意,对一次语义的支持高度依赖于您运行的连接器类型。即使您在集群中每个节点的配置中设置了所有正确的工作线程属性,如果连接器未设计为或无法利用 Kafka Connect 框架的功能,则可能无法实现精确一次。原创 2024-03-23 23:38:14 · 669 阅读 · 0 评论 -
Kafka系列之:Connect 中的错误报告
默认情况下,转换期间或转换中遇到的任何错误都会导致连接器失败。要将连接器的转换器、转换或接收器连接器本身内的错误报告到日志,请在连接器配置中设置errors.log.enable=true 以记录每个错误和问题记录的主题、分区和偏移量的详细信息。要将连接器的转换器、转换或接收器连接器本身内的错误报告给死信队列主题,请设置errors.deadletterqueue.topic.name,并可选设置errors.deadletterqueue.context.headers.enable=true。原创 2024-03-23 23:17:18 · 327 阅读 · 0 评论 -
Kafka系列之:Kafka Connect REST API
如果给定主机可访问的 URI 与其侦听的 URI 不同,则可以使用配置选项rest.advertished.host.name、rest.advertished.port 和rest.advertished.listener 来更改要访问的 URI。当使用HTTPS在节点之间进行通信时,将使用相同的ssl.*或listeners.https选项来配置HTTPS客户端。admin.Listeners配置可用于在Kafka Connect的REST API服务器上配置Admin REST API。原创 2024-03-23 23:12:06 · 451 阅读 · 0 评论 -
Kafka系列之:Kafka集群同时设置基于时间和日志大小两种方式保存Topic的数据
Kafka系列之:Kafka集群同时设置基于时间和日志大小两种方式保存Topic的数据原创 2024-02-08 11:26:56 · 864 阅读 · 0 评论 -
Kafka系列之:kafka.errors.UnsupportedCodecError: UnsupportedCodecError: Libraries for snappy compression
Kafka系列之:kafka.errors.UnsupportedCodecError: UnsupportedCodecError: Libraries for snappy compression原创 2024-01-03 08:24:50 · 653 阅读 · 0 评论 -
Kafka系列之:统计kafka集群Topic的分区数和副本数,批量增加topic副本数
Kafka系列之:统计kafka集群Topic的分区数和副本数,批量增加topic副本数原创 2023-12-12 18:42:15 · 1039 阅读 · 0 评论 -
Kafka系列之:记录一次Kafka Topic分区扩容,但是下游flink消费者没有自动消费新的分区的解决方法
Kafka系列之:记录一次Kafka Topic分区扩容,但是下游flink消费者没有自动消费新的分区的解决方法原创 2023-08-01 10:39:48 · 1602 阅读 · 0 评论 -
Kafka系列之:安装Know Streaming详细步骤
Kafka系列之:安装Know Streaming详细步骤原创 2023-07-31 23:41:02 · 2014 阅读 · 0 评论 -
Kafka系列之:基于Apache Kafka Connect实现端到端topic数据字段级加密的详细方法
Kafka系列之:基于Apache Kafka Connect实现端到端topic数据字段级加密的详细方法原创 2023-07-09 21:59:39 · 1253 阅读 · 0 评论 -
Kafka系列之:Apache Kafka端到端安全性,实现数据加密
Kafka系列之:Apache Kafka端到端安全性,实现数据加密原创 2023-07-09 21:00:05 · 1320 阅读 · 0 评论 -
Kafka系列之:Unexpected handshake request with client mechanism PLAIN, enabled mechanisms are []
Kafka系列之:Unexpected handshake request with client mechanism PLAIN, enabled mechanisms are []原创 2023-05-06 18:30:38 · 4752 阅读 · 1 评论 -
Kafka系列之:深入理解Kafka集群调优
Kafka系列之:深入理解Kafka集群调优原创 2023-03-03 17:28:53 · 1535 阅读 · 2 评论 -
Kafka系列之:Kafka生产者和消费者
Kafka系列之:Kafka生产者和消费者原创 2023-03-01 17:29:33 · 3349 阅读 · 0 评论 -
Kafka系列之:Kraft模式
Kafka系列之:Kraft模式原创 2023-03-01 16:14:31 · 1369 阅读 · 0 评论 -
Kafka系列之:详细总结认证方式PLAINTEXT、GSSAPI、Scram的实现方式,通过Ranger、Kerberos实现kafka账号的Topic权限管理
Kafka系列之:详细总结认证方式PLAINTEXT、GSSAPI、Scram的实现方式,通过Ranger、Kerberos实现kafka账号的Topic权限管理原创 2023-02-17 09:59:43 · 698 阅读 · 0 评论 -
Kafka系列之:基于SCRAM和Ranger机制完成动态新增kafka读写账号、赋予账号对指定Topic的读写权限
Kafka系列之:基于SCRAM和Ranger机制完成动态新增kafka读写账号、赋予账号对指定Topic的读写权限原创 2023-02-15 21:20:50 · 907 阅读 · 1 评论 -
Kafka系列之:使用kafka manager增加topic分区和副本
Kafka系列之:使用kafka manager增加topic分区和副本原创 2022-12-13 16:35:33 · 1400 阅读 · 0 评论 -
Kafka系列之:实现kafka topic优先副本的选举
Kafka系列之:实现kafka topic优先副本的选举原创 2022-12-12 19:05:02 · 743 阅读 · 1 评论 -
Kafka系列之:使用Kafka Manager实现leader分区平衡和broker节点上分区平衡
Kafka系列之:使用Kafka Manager实现leader分区平衡和broker节点上分区平衡原创 2022-12-12 18:49:28 · 892 阅读 · 0 评论 -
Kafka系列之:kafka集群管理工具Know Streaming安装详细步骤
Kafka系列之:kafka集群管理工具Know Streaming安装详细步骤原创 2022-11-28 23:11:41 · 1570 阅读 · 0 评论 -
Kafka系列之:实现Kafka Connect集群访问认证
Kafka系列之:实现Kafka Connect集群访问认证原创 2022-11-26 23:02:43 · 893 阅读 · 0 评论 -
Kafka系列之:详细介绍部署Kafka Connect分布式集群
Kafka系列之:详细介绍部署Kafka Connect分布式集群原创 2022-11-26 22:37:25 · 1338 阅读 · 0 评论 -
Kafka系列之:增加Kafka节点扩展Kafka集群
Kafka系列之:增加Kafka节点扩展Kafka集群原创 2022-08-26 17:00:14 · 2038 阅读 · 0 评论 -
Kafka系列之:Kafka消费组中消费者再均衡的原理
Kafka系列之:Kafka消费组中消费者再均衡的原理原创 2022-09-28 22:56:07 · 1004 阅读 · 0 评论 -
Kafka系列之:详细记录一次Kafka集群添加两个broker节点,重新分配Topic分区实现各个节点分区数平衡
Kafka系列之:详细记录一次Kafka集群添加两个broker节点,重新分配Topic分区实现各个节点分区数平衡原创 2022-09-24 07:15:33 · 949 阅读 · 0 评论 -
Kafka系列之:实现对Kafka集群的监控
Kafka系列之:实现对Kafka集群的监控原创 2022-09-15 21:07:40 · 1178 阅读 · 0 评论 -
Kafka系列之:日志清理
若待删除的日志分段的总数等于该日志文件中所有的日志分段的数量,那么说明所有的日志分段都已过期,但该日志文件中还要有一个日志分段用于接收消息的写入,即必须要保证有一个活跃的日志分段activeSegment,在这种情况下,会先切出一个新的日志分段作为activeSegment,然后执行删除操作。假设logStartOffset等于25,日志分段1的起始偏移量为0,日志分段2的起始偏移量为11,日志分段3的起始偏移量为23,通过如下动作收集可删除的日志分段的文件集合deletableSegments。原创 2022-09-15 15:30:08 · 1546 阅读 · 0 评论 -
Kafka系列之:kafka集群broker节点变化重新分配分区和修改副本数
Kafka系列之:kafka集群broker节点变化重新分配分区原创 2022-09-14 23:00:29 · 1231 阅读 · 0 评论 -
Kafka系列之:深入理解Kafka 主题、分区、副本、LEO、ISR、HW、Kafka的主写主读和分区leader选举
Kafka系列之:深入理解Kafka 主题、分区、副本、LEO、ISR、HW、Kafka的主写主读和分区leader选举原创 2022-09-14 16:04:50 · 608 阅读 · 0 评论 -
Kafka系列之:深入理解Kafka的消息代理
Kafka系列之:深入理解Kafka的消息代理原创 2022-09-10 14:48:25 · 882 阅读 · 0 评论 -
Kafka系列之:深入理解过期时间TTL
Kafka系列之:深入理解过期时间TTL原创 2022-09-07 17:23:12 · 908 阅读 · 0 评论
分享