自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(319)
  • 收藏
  • 关注

原创 榜单Zset

kafka流水 ===> 榜单ItemKey ===> 排行榜Zset(里面只存放Top K)ZREMRANGEBYRANK sorted_set 100 -1只保留前100名。消费kafka流水数据,更新ItemKey中的分数(Add)难点:榜单更新 Redis Zset 存在大key问题。重点:幂等性:同一个kafka流水不能重复更新。

2026-01-31 13:00:14 217

原创 不停机数据迁移

简单的理解,给数据库增加一个 is_synced 的标记,默认值是0,当同步后,值被修改为1。当DTS接收到 is_synced = 1的数据后,就直接扔掉。在阶段2时,切换到了阶段3,但是此时,老库的数据还没有完全同步到新库,此时,要以新库的数据为基准反向同步到老库。此时,就会Binlog死循环。工作中实战:在工作中都是借住公司的 DTS 平台,实现两个数据库之间的数据同步。【A==>B==>A】DTS循环同步。

2026-01-30 18:46:44 172

原创 Mysql/Redis缓存一致性

1. 性能高:kafka还是使用消费者组的多分区,但是生产者按照hash(id)选择分区,确保相同的id永远路由到一个分区(一个分区在同一个时刻只能被一个消费者处理,就能保证一个id只能被一个消费者处理)1. Canal接入的kafka如果是多分区,同一个ID会路由到不同的分区,消费者处理顺序会乱。】的操作,是升级的版本,因为Canal和读流程中都会更新Redis,这里要处理并发问题!2. 即使是单分区单消费者,如果消费者程序开启了go并发处理,也可能会乱序。2. 写:删除缓存,写数据库,延迟删除缓存。

2026-01-30 17:44:39 393

原创 分布式任务调度

2. 节点下线:假设现在有2个节点,节点1 处理0-50,节点2处理50-100,此时节点2下线了,那么这轮50-100的数据就没人处理了,但是也没关系,在下一个定时任务轮回,节点1会拿到0-100的range,重新处理。1. 节点上线:假设此时有1个节点,他正在处理0-100的任务,此时新增一个节点,那么新增的节点就会处理50-100的任务,此时会出现重复处理。场景:多个节点,并行扫描task_tab中的任务,“均分”执行(保证所有节点都能执行task_tab中的任务)- 执行节点的上下限监听。

2026-01-30 16:22:25 178

原创 洗牌算法、蓄水池抽样算法

洗牌算法、蓄水池抽样算法

2024-05-09 10:53:46 260

原创 Zookeeper

😄 最初了解它是在研究生期间,搭建过Hadoop集群,它用于为分布式集群提供一致性服务。它的核心是:类似树形文件系统、通知机制。下面先介绍几个小概念。答:防止脑裂 原因:两个机房通过一根网线相连接,每个机房6个主机,当断网后,各个机房主机都存活(符合半数存活,ZK可用原则),两个主机会各自选出leader,此时集群会出现双主,发生脑裂。

2023-07-31 18:32:45 978

原创 LSM-Tree

LSM-Tree的设计思路是,将数据拆分为几百M大小的Segments,并是顺序写入。

2023-07-31 18:31:14 488

原创 探究:kafka生产者/消费者与多线程安全

Kafka生产者是线程安全的,可以在多个线程中共享一个Kafka生产者实例。这是因为Kafka生产者实例内部使用了一些同步机制来保证线程安全,例如使用了线程安全的队列来缓存消息,使用了同步锁来保护共享资源的访问等。同时,Kafka生产者的send()方法是非阻塞的,可以在多个线程中并发调用,不会阻塞线程。Kafka生产者还提供了异步发送和同步发送两种发送方式,可以根据实际需求选择不同的发送方式。

2023-03-10 17:01:29 5185

原创 秒杀系统 (库存扣减)

秒杀

2023-02-21 18:12:12 1163 2

原创 高可用架构:异地多活

高可用

2023-02-14 11:33:59 5362

原创 csv文件、mysql表

mysql

2023-02-11 00:18:37 1052

原创 系统设计:微服务重试机制

微服务重试机制

2023-02-08 11:08:58 348

原创 互联网架构

架构300讲

2023-01-31 14:10:26 174

原创 singleflight.Group 缓存击穿

缓存击穿

2023-01-30 11:26:32 435

原创 消息队列 Kafka\RocketMq

mq

2022-12-21 11:07:50 1973

原创 文件系统篇

文件系统

2022-12-12 17:24:07 1209

原创 进程/线程篇

进程线程

2022-12-12 16:06:13 698

原创 图解系统:CPU、内存管理

图解系统

2022-12-06 19:22:03 3566 2

原创 知识体系之Redis

redis

2022-10-31 19:00:10 2694

原创 知识体系之HTTP

HTTP详解

2022-10-24 16:47:27 1047

原创 知识体系之APUE/内核编程

网络编程

2022-10-19 15:57:08 6828 1

原创 知识体系之TCP/IP详解

TCP/IP

2022-10-17 18:30:16 2418 1

原创 知识体系之C++

C++知识汇总

2022-10-13 11:01:31 4918

原创 设计之分库分表

分库分表

2022-10-08 22:34:05 1200

原创 知识体系之MySQL

mysql

2022-10-08 18:43:55 5135

原创 知识体系之Golang

go数据结构+常见错误

2022-09-26 17:56:44 3165

原创 知识体系之Go面试题

go八股文

2022-09-26 12:19:30 3670

原创 Go内存逃逸

内存逃逸

2022-09-25 17:30:26 372

原创 Go goroutine泄露的原因

协程泄露

2022-09-25 17:18:29 703

原创 Golang中的GC回收机制:三色标记与混合写屏障

GC

2022-09-25 11:24:52 2681 3

原创 GMP模型

GMP

2022-09-24 11:17:02 4221

原创 水平分表之基因法

基因法:水平分表

2022-09-23 17:42:09 1527

原创 Feed流之微博系统设计

feed流

2022-09-20 21:33:22 3541 4

原创 [短链接/内推码]生成系统设计

短链接生成内推码生成

2022-09-20 15:41:56 2152

原创 http2.0/http3.0(quic)/grpc

http2.0相较于http1.0的改进点http3.0相较于http2.0解决头部阻塞问题rpc与http的区别

2022-09-14 16:24:16 1929

原创 Redis分布式锁(锁失效)

Redis可重入锁+Watchdog锁续期

2022-09-13 18:50:57 3159

原创 kafka保证消息不丢失 / exactly once / rocketmq事务消息

kafka保证消息不丢失

2022-09-13 15:40:42 825

原创 分布式唯一ID生成器

分布式ID

2022-09-09 14:57:22 478

原创 vscode+golang 高效编码

1. 快捷键设置vscode:只需要设置【前进、后退】{ "tabnine.experimentalAutoImports": true, "bracketPairColorizer.depreciation-notice": false, "window.zoomLevel": 1, "editor.fontSize": 14, // 单元测试: t.Log(xxx) "go.buildFlags": [ "-v" ],

2022-03-27 14:37:59 2731

原创 Golang常用逻辑

errgroup:https://github.com/go-kratos/kratos/blob/v1.0.x/pkg/sync/errgroup/doc.gopackage mainimport ( "GoRedis/pkg/errgroup" "GoRedis/pkg/str" "context" "fmt" "math/rand" "sync" "time")// chapter-1: 构造函数,"有选择"的初始化成员变量type sexType intconst

2022-03-26 18:56:28 908

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除