分布式ID生成方案基本上主要有以下几种
- Java的UUID
- 基于DB主键自增、缓存自增
- 基于Twitter-Snowflake算法实现(本篇)
- 基于Zookeeper顺序节点、版本号
Snowflake算法
Snowflake算法是由Twitter(推特)提出的,背景是为了给Twitter中的每条消息分配一个唯一ID,并保证ID的有序性,方便客户端排序,并且在分布式系统中的不同机器产生的ID也必须不同。
Snowflake的优点是,整体上按照时间自增排序,并且整个分布式系统内不会产生ID碰撞(由数据中心ID和机器ID作区分),并且效率较高,缺点就是时钟回退的情况下很可能产生ID冲突,这点可以在程序中控制。(经本机测试,采用snowflake算法及对System.currentTimeMillis优化后,每秒snowflake产生的ID数量高达50W。其主要原理如下
结构如上,snowflacke算法产生的ID长度为64位(8byte),可分成四部分
- 1bit个标识位也是符号位,为0,表示正数,方便自增,不会产生负数。
- 41bit时间戳(毫秒级),存储时间差(当前时间戳 - 开始时间戳),可使用年限 = -1 / (1000L * 60 * 60 * 24 * 365) ,约69年。
- 10bit工作机器位,可以支持1023台机器
- 12bit序列号,支持1毫秒产生4095个自增序列ID
snowflake算法的Java版代码如下,其中关于SystemClock的代码参见上篇博客,主要是对System.currentTimeMills()的缓存。
package com.tvl.job.core.sequence;
import java.util.concurrent.locks.ReentrantLock;
import sun.misc.Lock;
/**
* 基于Twitter的Snowflake算法的分布式高效有序ID生成器
*
* <br>
* SnowFlake的结构如下(每部分用-分开):<br>
* <br>
* 0 - 0000000000 0000000000 0000000000 0000000000 0 - 00000 - 00000 -
* 000000000000 <br>
* <br>
* 1位标识,由于long基本类型在Java中是带符号的,最高位是符号位,正数是0,负数是1,所以id一般是正数,最高位是0<br>
* <br>
* 41位时间截(毫秒级),注意,41位时间截不是存储当前时间的时间截,而是存储时间截的差值(当前时间截 - 开始时间截)
* 得到的值),这里的的开始时间截,一般是我们的id生成器开始使用的时间,由我们程序来指定的(如下下面程序IdWorker类的startTime属性)。41位的时间截,可以使用69年,年T
* = (1L << 41) / (1000L * 60 * 60 * 24 * 365) = 69<br>
* <br>
* 10位的数据机器位,可以部署在1024个节点,包括5位datacenterId和5位workerId<br>
* <br>
* 12位序列,毫秒内的计数,12位的计数顺序号支持每个节点每毫秒(同一机器,同一时间截)产生4096个ID序号<br>
* <br>
* <br>
* 加起来刚好64位,为一个Long型。<br>
* SnowFlake的优点是,整体上按照时间自增排序,并且整个分布式系统内不会产生ID碰撞(由数据中心ID和机器ID作区分),并且效率较高,经测试,SnowFlake每秒能够产生26万ID左右。
*
*/
public class SnowflakeIdWorker {
/** 开始时间戳 (2015-01-01) */
private final long twepoch = 1420041600000L;
/** 机器id所占的位数 */
private final long workerIdBits = 5L;
/** 数据标识id所占的位数 */
private final long datacenterIdBits = 5L;
/** 支持的最大机器id,结果是31 (这个移位算法可以很快的计算出几位二进制数所能表示的最大十进制数) */
private final long maxWorkerId = -1L ^ (-1L << workerIdBits);
/** 支持的最大数据标识id,结果是31 */
private final long maxDatacenterId = -1L ^ (-1L << datacenterIdBits);
/** 序列在id中占的位数 */
private final long sequenceBits = 12L;
/** 机器ID向左移12位 */
private final long workerIdShift = sequenceBits;
/** 数据标识id向左移17位(12+5) */
private final long datacenterIdShift = sequenceBits + workerIdBits;
/** 时间戳向左移22位(5+5+12) */
private final long timestampLeftShift = sequenceBits + workerIdBits + datacenterIdBits;
/** 生成序列的掩码,这里为4095 (0b111111111111=0xfff=4095) */
private final long sequenceMask = -1L ^ (-1L << sequenceBits);
/** 工作机器ID(0~31) */
private long workerId;
/** 数据中心ID(0~31) */
private long datacenterId;
/** 毫秒内序列(0~4095) */
private long sequence = 0L;
/** 上次生成ID的时间戳 */
private long lastTimestamp = -1L;
private static SnowflakeIdWorker idWorker = null;
/**
* 同步控制实例产生过程,保证单例
*
* @return
*/
public static synchronized SnowflakeIdWorker getInstance() {
if (idWorker == null) {
idWorker = new SnowflakeIdWorker(0, 0);
}
return idWorker;
}
/**
* @param workerId
* 工作ID (0~31)
* @param datacenterId
* 数据中心ID (0~31)
*/
private SnowflakeIdWorker(final long workerId, final long datacenterId) {
if (workerId > maxWorkerId || workerId < 0) {
throw new IllegalArgumentException(
String.format("worker Id can't be greater than %d or less than 0", maxWorkerId));
}
if (datacenterId > maxDatacenterId || datacenterId < 0) {
throw new IllegalArgumentException(
String.format("datacenter Id can't be greater than %d or less than 0", maxDatacenterId));
}
this.workerId = workerId;
this.datacenterId = datacenterId;
}
/**
* 获得下一个ID (该方法是线程安全的)
*
* @return
*/
public synchronized long nextId() {
long timestamp = timeGen();
// 如果当前时间小于上一次ID生成的时间戳,说明系统时钟回退过
// 为了防止ID冲突,可抛出异常; 为了业务正常运行,也可以兼容处理。
if (timestamp < lastTimestamp) {
long diff = lastTimestamp - timestamp;
// 3毫秒内,则本次生成等待 n << 1毫秒
if (diff <= 3) {
try {
wait(diff << 1);
timestamp = timeGen();
if (timestamp < lastTimestamp) {
throw new RuntimeException(
String.format("Clock moved backwards. Refusing to generate id for %d milliseconds",
lastTimestamp - timestamp));
}
} catch (Exception e) {
throw new RuntimeException(e);
}
} else {
throw new RuntimeException(
String.format("Clock moved backwards. Refusing to generate id for %d milliseconds",
lastTimestamp - timestamp));
}
}
// 如果是同一时间生成的,则进行毫秒内序列
if (lastTimestamp == timestamp) {
sequence = (sequence + 1) & sequenceMask;
// 毫秒内序列溢出
if (sequence == 0) {
// 阻塞到下一个毫秒,获得新的时间戳
timestamp = tilNextMillis(lastTimestamp);
}
}
// 时间戳改变,毫秒内序列重置
else {
sequence = 0L;
}
// 上次生成ID的时间戳
lastTimestamp = timestamp;
// 移位并通过或运算拼到一起组成64位的ID
return ((timestamp - twepoch) << timestampLeftShift) //
| (datacenterId << datacenterIdShift) //
| (workerId << workerIdShift) //
| sequence;
}
/**
* 阻塞到下一个毫秒,直到获得新的时间戳
*
* @param lastTimestamp
* 上次生成ID的时间戳
* @return 当前时间戳
*/
protected long tilNextMillis(long lastTimestamp) {
long timestamp = timeGen();
while (timestamp <= lastTimestamp) {
timestamp = timeGen();
}
return timestamp;
}
/**
* 返回当前毫秒值
*
* @return 当前时间(毫秒)
*/
protected long timeGen() {
return SystemClock.now();
}
/** 测试 */
public static void main(String[] args) {
SnowflakeIdWorker idWorker = SnowflakeIdWorker.getInstance();
System.out.println("开始:"+ SystemClock.now());
for (int i = 0; i < 500000; i++) {
long id = idWorker.nextId();
// System.out.println(id);
}
System.out.println("结束:"+ SystemClock.now());
}
}