tidb binlog同步数据卡主处理

最新推荐文章于 2024-10-16 00:20:40 发布
最新推荐文章于 2024-10-16 00:20:40 发布
阅读量252 收藏
点赞数
分类专栏： tidb 文章标签： golang mysql dba
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_39133690/article/details/123389322
版权

tidb版本5.3.1
故障现象：
今天客户搭建binlog做同步的时候，发现有延时同步一会就卡主，重启下drainer又重新开始同步。

pump日志如下，日志中有报错pump is paused

在这里插入图片描述
在这里插入图片描述
show pump status提示如下，看到state有个pump是paused，这个集群只有1个pump，这个paused是之前缩容没有清理干净导致的
在这里插入图片描述
执行下面命令将之前缩容的pump清理后同步恢复正常，故障原因就是drainer读到了之前已经缩容掉的pump的数据所以卡死

bin/binlogctl -pd-urls=http://127.0.0.1:2379 -cmd update-pump -node-id ip-127-0-0-1:8250 -state offline
weixin_39133690
关注
专栏目录
数据中台全景架构及模块解析
wenyusuran的专栏
07-27 2071
数据中台是企业级能力复用平台，目标是让数据持续用起来，通过数据中台提供的工具、方法和运行机制，把数据变为一种服务能力，让数据更方便地被业务所使用。 今天就来点实际干货，把企业真实数据平台架构分享给您！相信看完这篇文章，你会真正对数据中台有一个全景的认识与理解，从抽象过度到具体。无图无真相，我赶紧po一张数据中台总体架构图： 数据中台是在底层存储计算平台与上层的数据应用之间的一整套体系，屏蔽掉底层存储平台的计算技术复杂性，降低对技术人才的需求，可以让数据的使用成本更低。如果用三句话来概括数据中台的组成
两年经验斩获蚂蚁/头条/PingCAP Offer，牛逼了
wenyusuran的专栏
07-29 4610
分享一篇面经，作者拿到了 PingCAP，今日头条的 offer 以及蚂蚁金服的口头 offer。下面是该作者的经验分享： 准备过程 我自己是本科毕业后在老东家干了两年多，老东家算是一家”小公司”(毕竟这年头没有 BAT 或 TMD 的 title 都不好意思报出身)，毕业这两年多我也没有在大厂待过，因此找坑的时候是非常非常虚的。迫于心慌，我好好思考了一阵来给自己打气，当时真正找坑和准备面试的过程大概分为这几个阶段： 反思：自己是不是真的要离职，假如不离职，在老东家接下来应该做什么才能继续提升？
记一次MySQL 5.7.10的binlog文件轮转(rotate)引起卡顿(block)出现慢日志的处理过程
xcc的博客
05-05 1374
描述： 程序反映当一个游戏服开服一段时间后，其使用的MySQL每隔一段时间都会出现几十条慢日志，慢日志集中在1到2秒内连续刷出，卡顿平均在60秒左右。一天当中每个时间段都有概率出现，即使是半夜3,4点没什么玩家的时候。 定位(trouble troubleshooting)： 根据描述，基本排除是程序代码的问题，因为游戏高峰期打世界BOSS的时候（每天中午12点玩家最活跃的时候）都不会...
tidb-dm同步报错binlog checksum mismatch, data may be corrupted
line_on_database的博客
08-19 441
问题原因： binlog查过4G 处理方式： https://docs.pingcap.com/zh/tidb-data-migration/v1.0/error-handling relay 处理单元报错 event from * in * diff from passed-in event * 或迁移任务中断并包含 get binlog error ERROR 1236 (HY000)、binlog checksum mismatch, data may be corrupted 等 binlog 获取
mysql binlog rotate_记一次MySQL 5.7.10的binlog文件轮转(rotate)引起卡顿(block)出现慢日志的处理过程...
weixin_42352453的博客
02-07 352
描述：程序反映当一个游戏服开服一段时间后，其使用的MySQL每隔一段时间都会出现几十条慢日志，慢日志集中在1到2秒内连续刷出，卡顿平均在60秒左右。一天当中每个时间段都有概率出现，即使是半夜3,4点没什么玩家的时候。定位(trouble troubleshooting)：根据描述，基本排除是程序代码的问题，因为游戏高峰期打世界BOSS的时候(每天中午12点玩家最活跃的时候)都不会出现慢日志，就算再...
mysql binlog切换 阻塞_如何解决binlog rotate引发的MySQL阻塞事件
weixin_42363854的博客
01-21 425
背景在大型MySQL集群增加了新的库，运行正常(没有开启GTID)。几天后将新加入的库开启GTID。MySQL版本：5.7.19故障现象变更后，当业务压力开始上升，发现其中一个节点以大概半小时的频率，业务会间断性地发生阻塞。分析过程1.观察故障现象根据业务研发同事描述，大概每半小时发生一次故障。等到故障发生时，观测到以下现象：a.show processlist发现有4000左右正在执行的inse...
MySQL半同步卡住,记一次Mysql半同步bug（Bug #89370）
weixin_35717696的博客
03-23 343
记一次Mysql半同步bug(Bug #89370)记一次Mysql半同步bug(Bug #89370)记一次Mysql半同步bug(Bug #89370)一、故障现象二、故障处理三、总结题外话偶遇一次Mysql半同步比较少见的bug，mysql版本为5.7.21，架构为双主，启用了半同步semi-sync replication。[var1]Mysql双主实例的从节点重启后，主节点的操作未能及时...
诚意满满！TiDB 在实时数据分析中的最佳实践
09-21 900
【技术干货】黄东旭：TiDB 在实时数据分析中的最佳实践 编者按： 9 月 10 日晚，七牛云主办的「云加数据，智驱未来」数据科学系列论坛如期举行。在直播中，PingCAP 联合创始人兼 CTO 黄东旭为我们带来了主题为《 TiDB 在实时数据分析中的最佳实践》的精彩分享。 MySQL 作为单机数据库，当数据量增加时必然涉及到分库分表等操作去换取水平扩展能力，这时候的复杂度将会呈现几何倍的上升。TiDB 五年前的初心是想设计一个替换 MySQL 分库分表的方案，因此 TiDB 最早的目的是想做一个既能够像
TiDB的设计哲学——Make It Work! Make It Right! Make It Fast!
作一个独立连续的思考者
02-13 1428
一、最初的三个基本信念 本次分享题目是《TiDB 的架构演进哲学》，既然讲哲学那肯定有故事和教训，否则哲学从哪儿来呢？但从另外的角度来说，一般大家来讲哲学就先得有信念。有一个内容特别扯的美剧叫做《美国众神》，里面核心的一条思路是“你相信什么你就是什么”。其实人类这么多年来，基本上也是朝这条线路在走的，人类对于未知的东西很难做一个很精确的推导，这时信念就变得非常重要了。 图 1 最初的基本信...
Shopee的数据库选型之路
作一个独立连续的思考者
02-12 1249
Shopee 于 2015 年底上线，是东南亚地区领先的电子商务平台，覆盖东南亚和台湾等多个市场，在深圳和新加坡分别设有研发中心。 本文系 Shopee 的分布式数据库选型思路漫谈。因为是“漫谈”，可能不成体系，但会着重介绍一些经验以及踩过的坑，提供给大家参考。 1Shopee 的数据库使用情况 Shopee 在用哪些数据库? 先说一下当前 Shopee 线上在用的几种数据库： 在 S...
TiDB 集群一次诡异的写入慢问题排查经历
TiDB 社区干货传送门
05-10 717
作者：mydb 原文来源： https://tidb.net/blog/cd7be357 ...
binlog日志太多太大耗尽磁盘空间导致mysql卡死的问题解决
雅冰石的专栏
04-20 8270
一：问题描述 今天有同事反馈，数据库卡死了，普通的一个带limit 1只反馈一条记录的查询都好久查不出来。 我查了一下，当前并没有阻塞信息，所以不是锁竞争导致的。 查看错误日志，看到了端倪： 160419 17:03:33 [ERROR]/usr/local/mysql/bin/mysqld: Disk is full writing './mysql-bin.000177'(Errcod...
MySQL备份和恢复（三）binlog
w_t_y_y的博客
03-17 972
数据恢复主要使用binlog的--start-position=?--stop-position=?命令来重新执行 一、恢复实例： 1、update未加where条件，误操作修改数据。如 CREATE TABLE `t_user` ( `id` int(10) unsigned NOT NULL AUTO_INCREMENT, `user_name` varchar(255) DEFAULT NULL, `age` int(11) DEFAULT NULL, PRIMARY KEY.
MySQL半同步卡住,Mysql半同步复制原理及问题排查 爱问知识人
weixin_29062963的博客
03-23 246
\上面的体系结构图中显示了mysql半同步复制和异步复制之间的区别:对于mysql异步复制，Mysql Master Server将在通过复制线程传输Binary Log之后， Mysql Master Sever将自动将数据返回给客户端，而不管从站上是否收到二进制日志。在半同步复制体系结构中，当主服务器将其binlog发送到从服务器时，它必须确保从服务器已接收到二进制日志，然后才能将数据返回给客...
mysql检查半同步复制状态_mysql半同步复制问题排查
weixin_30802125的博客
02-02 429
1.问题背景默认情况下，线上的mysql复制都是异步复制，因此在极端情况下，主备切换时，会有一定的概率备库比主库数据少，因此切换后，我们会通过工具进行回滚回补，确保数据不丢失。半同步复制则要求主库执行每一个事务，都要求至少一个备库成功接收后，才真正执行完成，因此可以保持主备库的强一致性。为了确保主备库数据强一致，减少数据丢失，尝试在生产环境中开启mysql的复制的半同步(semi-sync)特性。...
GO 语言协程知识点学习笔记
weixin_45582252的博客
10-12 742
Channel 是 Go 协程之间通信的通信管道，如同管道中的谁会从一端流到另一端，通过使用管道，就可以实现数据从管道的一个端口发送，在另外一个端口接收。
15分钟学Go 第2天：安装Go环境
最新发布
weixin_40780178的博客
10-16 587
通过本节的学习，你已经成功在Windows 11上安装并配置了Go语言开发环境，包括Go语言本身、VS Code和必要的插件。同时，你还创建并运行了一个简单的Go程序，熟悉了工作流程。接下来，你可以开始深入学习Go语言的基本语法与编程概念。怎么样今天的内容还满意吗？
go语言中的template使用
小诸葛的博客
10-11 370
在 Go 语言中，你可以使用 或 包来创建和执行模板。以下是一个基本示例，展示如何使用 Go 的模板语法： 2. 创建数据结构 定义一个数据结构，用于传递给模板： 3. 定义模板 创建一个模板字符串： 4. 执行模板 使用 创建模板并执行： 5. 运行程序 运行这个程序后，它会输出一个格式化的 YAML 配置，替换模板中的变量。
TiDB-Binlog架构演变：从Kafka到新的优化
针对以上问题，TiDB-Binlog的后续演进可能会考虑负载均衡策略、减少对外部组件的依赖、优化大数据量binlog的处理方式，以及提高Drainer的并行处理能力，以提升整体系统的稳定性和效率。此外，对于更复杂的需求，例如...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值