大数据最全美团分布式 ID 框架 Leaf 介绍和使用_美团leaf算法使用

最新推荐文章于 2024-09-14 08:25:03 发布

2401_84184567

最新推荐文章于 2024-09-14 08:25:03 发布

阅读量579

点赞数 6

分类专栏：程序员文章标签：大数据分布式算法

本文链接：https://blog.csdn.net/2401_84184567/article/details/138433683

版权

程序员专栏收录该内容

120 篇文章 0 订阅

订阅专栏

基于Snowflake 算法的方式，可以解决上述提到的问题，并且稳定性和灵活性都非常高，但强依赖于机器时钟，如果机器上时钟回拨，会导致发号重复或者服务会处于不可用状态。

既然如此，那下面我们来认识更强大的分布式ID生成器 Leaf ，它是美团开源的分布式 ID 生成器，旨在解决分布式系统中的唯一标识生成问题，确保在分布式环境下生成的 ID 具有全局唯一性、顺序性和高性能。

Leaf 实现了Leaf-segment和Leaf-snowflake两种方案。

Leaf-segment是一种基于数据库的分布式 ID 生成方案，原始基于数据库的自增长ID 方案，每次获取ID都得读写一次数据库，造成数据库压力大，该方案利用proxy server批量获取，每次获取一个segment(step决定大小)号段的值。用完之后再去数据库获取新的号段，可以大大的减轻数据库的压力。各个业务不同的发号需求用biz_tag字段来区分，每个biz-tag的ID获取相互隔离，互不影响。如果以后有性能需求需要对数据库扩容，不需要上述描述的复杂的扩容操作，只需要对biz_tag分库分表就行。

Leaf-snowflake方案完全沿用snowflake方案的bit位设计，对于workerID的分配，使用Zookeeper持久顺序节点的特性自动对snowflake节点配置wokerID，对于时钟回拨问题，解决方案如下：

在这里插入图片描述

更多介绍可以参考官方信息：

官方介绍地址：https://tech.meituan.com/2017/04/21/mt-leaf.html

github：https://github.com/Meituan-Dianping/Leaf.git

下面一起来实践下Leaf的使用。

首先拉取 Leaf SpringBoot 封装依赖源码：

git clone -b feature/spring-boot-starter https://github.com/Meituan-Dianping/Leaf.git

cd leaf

使用 Maven 将 Leaf 打到本地仓库中

mvn clean install -Dmaven.test.skip=true

在这里插入图片描述

打包成功后，可以创建一个 SpringBoot 项目，在 pom 中加入下面依赖：

<dependency>
     <artifactId>leaf-boot-starter</artifactId>
     <groupId>com.sankuai.inf.leaf</groupId>
     <version>1.0.1-RELEASE</version>
     <exclusions>
         <exclusion>
             <groupId>com.alibaba</groupId>
             <artifactId>druid</artifactId>
         </exclusion>
         <exclusion>
             <groupId>mysql</groupId>
             <artifactId>mysql-connector-java</artifactId>
         </exclusion>
     </exclusions>
 </dependency>

 <dependency>
     <groupId>com.alibaba</groupId>
     <artifactId>druid</artifactId>
     <version>1.1.6</version>
 </dependency>

 <dependency>
     <groupId>mysql</groupId>
     <artifactId>mysql-connector-java</artifactId>
 </dependency>

二、Leaf-segment 方式使用

首先创建leaf使用的数据库：

CREATE DATABASE leaf

创建ID规则表：

CREATE TABLE `leaf\_alloc` (
  `biz\_tag` varchar(128)  NOT NULL DEFAULT '',
  `max\_id` bigint(20) NOT NULL DEFAULT '1',
  `step` int(11) NOT NULL,
  `description` varchar(256)  DEFAULT NULL,
  `update\_time` timestamp NOT NULL DEFAULT CURRENT\_TIMESTAMP ON UPDATE CURRENT\_TIMESTAMP,
  PRIMARY KEY (`biz\_tag`)
) ENGINE=InnoDB;

写入两个 biz_tag：

insert into leaf_alloc(biz_tag, max_id, step, description) values('test1', 1, 2000, '测试1');
insert into leaf_alloc(biz_tag, max_id, step, description) values('test2', 1, 2000, '测试2');

项目中加入leaf 和数据库配置：

leaf:
  name: test1
  segment:
    enable: true
    url: jdbc:mysql://localhost:3306/leaf?useUnicode=true&characterEncoding=utf8&serverTimezone=GMT
    username: root
    password: root

生成ID测试：

@Slf4j
@SpringBootTest
class LeafIdApplicationTests {

    @Resource
    private SegmentService segmentService;

    @Test
    void contextLoads() {
        // 生成 1000 个ID
        StopWatch sw = new StopWatch();
        sw.start();
        for (int i = 0; i < 1000; i++) {
            long id1 = segmentService.getId("test1").getId();
            long id2 = segmentService.getId("test2").getId();


![img](https://img-blog.csdnimg.cn/img_convert/cb5028d1b9cf1af9bd7a0f2d728961e0.png)
![img](https://img-blog.csdnimg.cn/img_convert/610083f0d040e15c7b060ec88e16ec2b.png)
![img](https://img-blog.csdnimg.cn/img_convert/b3d51ec3729d6d76661c98a02257b3f3.png)

**既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上大数据知识点，真正体系化！**

**由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新**

**[需要这份系统化资料的朋友，可以戳这里获取](https://bbs.csdn.net/topics/618545628)**

经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上大数据知识点，真正体系化！**

**由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新**

**[需要这份系统化资料的朋友，可以戳这里获取](https://bbs.csdn.net/topics/618545628)**