系统唯一ID是我们在开发过程中遇到的一个常见问题,简单的来说,生成ID的方式有很多种,它们适应不同性能。
一、数据库自增长序列或者字段
这是最常见的方式,利用数据库的
AUTO_INCREMENT
- 优点
- 简单,代码方便,性能可接受
- 数字ID具有天然排序,对需要分页或者排序的结果很有帮组
- 缺点
- 不同数据库的语法和实现不同,数据库迁移或者数据库版本支持的时候需要处理
- 在单个数据库或读写分离或者一主多从的情况下,只有一个主库可以生成,可能会造成单点故障。
- 在性能达不到要求的情况下,比较难扩展。
- 分表分库的时候会比较麻烦
- 优化点
- 针对主库单点,如果是有多个master库,则每个master库设置的起始数字不一样,但是他们的步长一样,可以是master的个数,比如是1、4、7、10,master2生成的是2、5、8、11,master3生成的是3、6、9、12~这样就可以有效生成集群中的唯一ID,也可以大大降低ID生成数据库操作的负载。
二、UUID
这是最常见的方式,可以利用数据库也可以利用程序生成。
- 优点
- 简单,代码生成方便
- 生成ID的性能非常好,基本不会有性能问题。
- 全球唯一,在遇见数据迁移,系统数据合并,或者数据库变更时,很难产生冲突,较易解决。
- 缺点
- 没有排序,无法保证趋势递增
- UUID往往使用的是字符串存储,查询效率比较低
- 存储空间比较大,一般是16位或者32位
- 传输数据量大
- 不可读
三、UUID变种
为了解决UUID不可读,可以使用UUID to Int64的方法。及
/// <summary>
/// 根据GUID获取唯一数字序列
/// </summary>
public static long GuidToInt64() {
byte[] bytes = Guid.NewGuid().ToByteArray();
return BitConverter.ToInt64(bytes, 0);
}
为了解决UUID无序的问题,NHibernate在其主键生成方式中提供了Comb算法(combined guid/timestamp)。保留GUID的10个字节,用另6个字节表示GUID生成的时间(DateTime)。
/// <summary>
/// Generate a new <see cref="Guid"/> using the comb algorithm.
/// </summary>
private Guid GenerateComb()
{
byte[] guidArray = Guid.NewGuid().ToByteArray();
DateTime baseDate = new DateTime(1900, 1, 1);
DateTime now = DateTime.Now;
// Get the days and milliseconds which will be used to build
//the byte string
TimeSpan days = new TimeSpan(now.Ticks - baseDate.Ticks);
TimeSpan msecs = now.TimeOfDay;
// Convert to a byte array
// Note that SQL Server is accurate to 1/300th of a
// millisecond so we divide by 3.333333
byte[] daysArray = BitConverter.GetBytes(days.Days);
byte[] msecsArray = BitConverter.GetBytes((long)
(msecs.TotalMilliseconds / 3.333333));
// Reverse the bytes to match SQL Servers ordering
Array.Reverse(daysArray);
Array.Reverse(msecsArray);
// Copy the bytes into the guid
Array.Copy(daysArray, daysArray.Length - 2, guidArray,
guidArray.Length - 6, 2);
Array.Copy(msecsArray, msecsArray.Length - 4, guidArray,
guidArray.Length - 4, 4);
return new Guid(guidArray);
}
用上面的算法测试一下,得到如下的结果:作为比较,前面3个是使用COMB算法得出的结果,最后12个字符串是时间序(统一毫秒生成的3个UUID),过段时间如果再次生成,则12个字符串会比图示的要大。后面3个是直接生成的GUID。
四、Redis生成ID
当使用数据库来生成ID性能不能够达到要求时,可以使用Redis来生成ID,这主要依赖于Redis是单线程的,所有也可以利用生成全局唯一ID,可以使用Redis的
INCR
或INCRBY
来实现
可以使用Redis集群来获取更高的吞吐量。假如一个集群中有5台Redis。可以初始化每台Redis的值分别是1,2,3,4,5,然后步长都是5。各个Redis生成的ID为:
A:1,6,11,16,21
B:2,7,12,17,22
C:3,8,13,18,23
D:4,9,14,19,24
E:5,10,15,20,25
这个,随便负载到哪个机确定好,未来很难做修改。但是3-5台服务器基本能够满足器上,都可以获得不同的ID。但是步长和初始值一定需要事先需要了。使用Redis集群也可以方式单点故障的问题。
另外,比较适合使用Redis来生成每天从0开始的流水号。比如订单号 = 日期 + 当日自增长号。可以每天在Redis中生成一个Key
,使用INCR
进行累加。
- 优点
- 不依赖数据库,灵活方便,且性能优于数据库
- 数字ID天然排序,对分页或者需要有排序的结果良好
- 缺点
- 如果系统中没有Redis,还需要引入Redis,增加了系统组件的复杂度
- 如需要编码和配置的工作量比较大
四、利用zookeeper生成唯一ID
zookeeper主要通过其znode数据版本来生成序列号,可以生成32位和64位的数据版本号,客户端可以使用这个版本号来作为唯一的序列号。
很少会使用zookeeper来生成唯一ID。主要是由于需要依赖zookeeper,并且是多步调用API,如果在竞争较大的情况下,需要考虑使用分布式锁。因此,性能在高并发的分布式环境下,也不甚理想。
五、MongoDB的ObjectId
MongoDB的ObjectId和snowflake算法类似。它设计成轻量型的,不同的机器都能用全局唯一的同种方法方便地生成它。MongoDB 从一开始就设计用来作为分布式数据库,处理多个节点是一个核心要求。使其在分片环境中要容易生成得多。
六、Twitter的snowflake算法
snowflake是Twitter开源的分布式ID生成算法,结果是一个long型的ID。其核心思想是:使用41bit作为毫秒数,10bit作为机器的ID(5个bit是数据中心,5个bit的机器ID),12bit作为毫秒内的流水号(意味着每个节点在每毫秒可以产生 4096 个 ID),最后还有一个符号位,永远是0。具体实现的代码可以参看https://github.com/twitter/snowflake。