分布式系统唯一ID生成方案

系统唯一ID是我们在开发过程中遇到的一个常见问题,简单的来说,生成ID的方式有很多种,它们适应不同性能。

一、数据库自增长序列或者字段

这是最常见的方式,利用数据库的AUTO_INCREMENT

  • 优点
    • 简单,代码方便,性能可接受
    • 数字ID具有天然排序,对需要分页或者排序的结果很有帮组
  • 缺点
    • 不同数据库的语法和实现不同,数据库迁移或者数据库版本支持的时候需要处理
    • 在单个数据库或读写分离或者一主多从的情况下,只有一个主库可以生成,可能会造成单点故障。
    • 在性能达不到要求的情况下,比较难扩展。
    • 分表分库的时候会比较麻烦
  • 优化点
    • 针对主库单点,如果是有多个master库,则每个master库设置的起始数字不一样,但是他们的步长一样,可以是master的个数,比如是1、4、7、10,master2生成的是2、5、8、11,master3生成的是3、6、9、12~这样就可以有效生成集群中的唯一ID,也可以大大降低ID生成数据库操作的负载。

二、UUID

这是最常见的方式,可以利用数据库也可以利用程序生成。

  • 优点
    • 简单,代码生成方便
    • 生成ID的性能非常好,基本不会有性能问题。
    • 全球唯一,在遇见数据迁移,系统数据合并,或者数据库变更时,很难产生冲突,较易解决。
  • 缺点
    • 没有排序,无法保证趋势递增
    • UUID往往使用的是字符串存储,查询效率比较低
    • 存储空间比较大,一般是16位或者32位
    • 传输数据量大
    • 不可读

三、UUID变种

为了解决UUID不可读,可以使用UUID to Int64的方法。及

/// <summary>
/// 根据GUID获取唯一数字序列
/// </summary>
public static long GuidToInt64() {
    byte[] bytes = Guid.NewGuid().ToByteArray();
    return BitConverter.ToInt64(bytes, 0);
}

为了解决UUID无序的问题,NHibernate在其主键生成方式中提供了Comb算法(combined guid/timestamp)。保留GUID的10个字节,用另6个字节表示GUID生成的时间(DateTime)。

/// <summary> 
/// Generate a new <see cref="Guid"/> using the comb algorithm. 
/// </summary> 
private Guid GenerateComb()
{
    byte[] guidArray = Guid.NewGuid().ToByteArray();
 
    DateTime baseDate = new DateTime(1900, 1, 1);
    DateTime now = DateTime.Now;
 
    // Get the days and milliseconds which will be used to build    
    //the byte string    
    TimeSpan days = new TimeSpan(now.Ticks - baseDate.Ticks);
    TimeSpan msecs = now.TimeOfDay;
 
    // Convert to a byte array        
    // Note that SQL Server is accurate to 1/300th of a    
    // millisecond so we divide by 3.333333    
    byte[] daysArray = BitConverter.GetBytes(days.Days);
    byte[] msecsArray = BitConverter.GetBytes((long)
      (msecs.TotalMilliseconds / 3.333333));
 
    // Reverse the bytes to match SQL Servers ordering    
    Array.Reverse(daysArray);
    Array.Reverse(msecsArray);
 
    // Copy the bytes into the guid    
    Array.Copy(daysArray, daysArray.Length - 2, guidArray,
      guidArray.Length - 6, 2);
    Array.Copy(msecsArray, msecsArray.Length - 4, guidArray,
      guidArray.Length - 4, 4);
 
    return new Guid(guidArray);
}

用上面的算法测试一下,得到如下的结果:作为比较,前面3个是使用COMB算法得出的结果,最后12个字符串是时间序(统一毫秒生成的3个UUID),过段时间如果再次生成,则12个字符串会比图示的要大。后面3个是直接生成的GUID。

四、Redis生成ID

当使用数据库来生成ID性能不能够达到要求时,可以使用Redis来生成ID,这主要依赖于Redis是单线程的,所有也可以利用生成全局唯一ID,可以使用Redis的INCRINCRBY来实现

可以使用Redis集群来获取更高的吞吐量。假如一个集群中有5台Redis。可以初始化每台Redis的值分别是1,2,3,4,5,然后步长都是5。各个Redis生成的ID为:

A:1,6,11,16,21

B:2,7,12,17,22

C:3,8,13,18,23

D:4,9,14,19,24

E:5,10,15,20,25

这个,随便负载到哪个机确定好,未来很难做修改。但是3-5台服务器基本能够满足器上,都可以获得不同的ID。但是步长和初始值一定需要事先需要了。使用Redis集群也可以方式单点故障的问题。

另外,比较适合使用Redis来生成每天从0开始的流水号。比如订单号 = 日期 + 当日自增长号。可以每天在Redis中生成一个Key,使用INCR进行累加。

  • 优点
    • 不依赖数据库,灵活方便,且性能优于数据库
    • 数字ID天然排序,对分页或者需要有排序的结果良好
  • 缺点
    • 如果系统中没有Redis,还需要引入Redis,增加了系统组件的复杂度
    • 如需要编码和配置的工作量比较大

四、利用zookeeper生成唯一ID

zookeeper主要通过其znode数据版本来生成序列号,可以生成32位和64位的数据版本号,客户端可以使用这个版本号来作为唯一的序列号。

很少会使用zookeeper来生成唯一ID。主要是由于需要依赖zookeeper,并且是多步调用API,如果在竞争较大的情况下,需要考虑使用分布式锁。因此,性能在高并发的分布式环境下,也不甚理想。

五、MongoDB的ObjectId

MongoDB的ObjectId和snowflake算法类似。它设计成轻量型的,不同的机器都能用全局唯一的同种方法方便地生成它。MongoDB 从一开始就设计用来作为分布式数据库,处理多个节点是一个核心要求。使其在分片环境中要容易生成得多。

六、Twitter的snowflake算法

snowflake是Twitter开源的分布式ID生成算法,结果是一个long型的ID。其核心思想是:使用41bit作为毫秒数,10bit作为机器的ID(5个bit是数据中心,5个bit的机器ID),12bit作为毫秒内的流水号(意味着每个节点在每毫秒可以产生 4096 个 ID),最后还有一个符号位,永远是0。具体实现的代码可以参看https://github.com/twitter/snowflake。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值