Twitter 分布式自增 ID 算法 Snowflake

概述

分布式系统中 , 有一些需要使用全局唯一 ID 的场景 , 这种时候为了防止 ID 冲突可以使用 36 位的 UUID (不带中划线32位) , 但是 UUID 有一些缺点 , 首先他相对比较长 , 另外 UUID 一般是无序的 ;
有些时候我们希望能使用一种简单一些的 ID , 并且希望 ID 能够按照时间有序生成 ;
而 Twitter 的 Snowflake 解决了这种需求 , 最初 Twitter 把存储系统从 MySql 迁移到 Cassandra , 因为 Cassandra 没有顺序 ID 生成机制 , 所以开发了这样一套全局唯一 ID 生成服务 ;

结构

Snowflake 的结构如下 (每部分用 - 分开) :
0 - 0000000000 0000000000 0000000000 0000000000 0 - 00000 - 00000 - 000000000000
第一位为未使用 , 接下来的 41 位为毫秒级时间 (41 位的长度可以使用 69 年) , 然后是 5 位 datacenterId 和 5 位 workerId ( 10 位的长度最多支持部署 1024 个节点 ) , 最后 12 位是毫秒内的计数 (12 位的计数顺序号支持每个节点每毫秒产生 4096 个 ID 序号) ;
一共加起来刚好 64 位 , 为一个 Long 型 (转换成字符串后长度最多 19) ;
Snowflake 生成的 ID 整体上按照时间自增排序 , 并且整个分布式系统内不会产生 ID 碰撞 (由 datacenter 和 workerId 作区分) , 并且效率较高 , 经测试 Snowflake 每秒能够产生 26 万个 ID ;

Java 源码

/**
 * Twitter_Snowflake
 * SnowFlake的结构如下 (每部分用 - 分开) :
 * 0 - 0000000000 0000000000 0000000000 0000000000 0 - 00000 - 00000 - 000000000000
 * 1 位标识 , 由于 long 基本类型在 Java 中是带符号的 , 最高位是符号位 , 正数是 0 , 负数是 1 , 所以 id 一般是正数 , 最高位是 0
 * 41 位时间截 (毫秒级) , 注意 , 41 位时间截不是存储当前时间的时间截 , 而是存储时间截的差值 (当前时间截 - 开始时间 截得到的值)
 * 这里的的开始时间截 , 一般是我们的 id 生成器开始使用的时间 , 由我们程序来指定的 (如下下面程序 IdWorker 类的 startTime 属性)
 * 41 位的时间截 , 可以使用 69 年 , 年 T = (1L << 41) / (1000L * 60 * 60 * 24 * 365) = 69
 * 10 位的数据机器位 , 可以部署在 1024 个节点 , 包括  5位 datacenterId 和 5 位 workerId
 * 12 位序列 , 毫秒内的计数 , 12 位的计数顺序号支持每个节点每毫秒 (同一机器 , 同一时间截) 产生 4096 个 ID 序号
 * 加起来刚好 64 位 , 为一个 Long 型
 * SnowFlake 的优点是 , 整体上按照时间自增排序 , 并且整个分布式系统内不会产生 ID 碰撞 (由数据中心 ID 和机器 ID 作区分) , 并且效率较高
 * 经测试 , SnowFlake 每秒能够产生 26 万 ID 左右
 */

public class SnowflakeIdWorker {

	/** 开始时间截 (2015-01-01) */
	private final long twepoch = 1420041600000L;

	/** 机器id所占的位数 */
	private final long workerIdBits = 5L;

	/** 数据标识id所占的位数 */
	private final long datacenterIdBits = 5L;

	/** 支持的最大机器id，结果是31 (这个移位算法可以很快的计算出几位二进制数所能表示的最大十进制数) */
	private final long maxWorkerId = -1L ^ (-1L << workerIdBits);

	/** 支持的最大数据标识id，结果是31 */
	private final long maxDatacenterId = -1L ^ (-1L << datacenterIdBits);

	/** 序列在id中占的位数 */
	private final long sequenceBits = 12L;

	/** 机器ID向左移12位 */
	private final long workerIdShift = sequenceBits;

	/** 数据标识id向左移17位(12+5) */
	private final long datacenterIdShift = sequenceBits + workerIdBits;

	/** 时间截向左移22位(5+5+12) */
	private final long timestampLeftShift = sequenceBits + workerIdBits + datacenterIdBits;

	/** 生成序列的掩码，这里为4095 (0b111111111111=0xfff=4095) */
	private final long sequenceMask = -1L ^ (-1L << sequenceBits);

	/** 工作机器ID(0~31) */
	private long workerId;

	/** 数据中心ID(0~31) */
	private long datacenterId;

	/** 毫秒内序列(0~4095) */
	private long sequence = 0L;

	/** 上次生成ID的时间截 */
	private long lastTimestamp = -1L;

	/**
	 * 构造函数
	 * 
	 * @param workerId
	 *            工作ID (0~31)
	 * @param datacenterId
	 *            数据中心ID (0~31)
	 */
	public SnowflakeIdWorker(long workerId, long datacenterId) {
		if (workerId > maxWorkerId || workerId < 0) {
			throw new IllegalArgumentException(
					String.format("worker Id can't be greater than %d or less than 0", maxWorkerId));
		}
		if (datacenterId > maxDatacenterId || datacenterId < 0) {
			throw new IllegalArgumentException(
					String.format("datacenter Id can't be greater than %d or less than 0", maxDatacenterId));
		}
		this.workerId = workerId;
		this.datacenterId = datacenterId;
	}

	/**
	 * 获得下一个ID (该方法是线程安全的)
	 * 
	 * @return SnowflakeId
	 */
	public synchronized long nextId() {
		long timestamp = timeGen();
		// 如果当前时间小于上一次ID生成的时间戳，说明系统时钟回退过这个时候应当抛出异常
		if (timestamp < lastTimestamp) {
			throw new RuntimeException(String.format(
					"Clock moved backwards.  Refusing to generate id for %d milliseconds", lastTimestamp - timestamp));
		}
		// 如果是同一时间生成的，则进行毫秒内序列
		if (lastTimestamp == timestamp) {
			sequence = (sequence + 1) & sequenceMask;
			// 毫秒内序列溢出
			if (sequence == 0) {
				// 阻塞到下一个毫秒,获得新的时间戳
				timestamp = tilNextMillis(lastTimestamp);
			}
		}
		// 时间戳改变，毫秒内序列重置
		else {
			sequence = 0L;
		}
		// 上次生成ID的时间截
		lastTimestamp = timestamp;
		// 移位并通过或运算拼到一起组成64位的ID
		return ((timestamp - twepoch) << timestampLeftShift) | (datacenterId << datacenterIdShift)
				| (workerId << workerIdShift) | sequence;
	}

	/**
	 * 阻塞到下一个毫秒，直到获得新的时间戳
	 * 
	 * @param lastTimestamp
	 *            上次生成ID的时间截
	 * @return 当前时间戳
	 */
	protected long tilNextMillis(long lastTimestamp) {
		long timestamp = timeGen();
		while (timestamp <= lastTimestamp) {
			timestamp = timeGen();
		}
		return timestamp;
	}

	/**
	 * 返回以毫秒为单位的当前时间
	 * 
	 * @return 当前时间(毫秒)
	 */
	protected long timeGen() {
		return System.currentTimeMillis();
	}

	/** 测试 */
	public static void main(String[] args) {
		SnowflakeIdWorker idWorker = new SnowflakeIdWorker(0, 0);
		for (int i = 0; i < 1000; i++) {
			long id = idWorker.nextId();
			System.out.println(Long.toBinaryString(id));
			System.out.println(id);
		}
	}
}

Q&A

• 为什么一定要用 mark ?

最后 12 位是毫秒内计数 , 因为是自增的 , 当超过 12 位时候计算一下 (1000000000000 & 111111111111 = 0) 可以判断出来

• 假如我在不同的服务器上运行它 , 要让它的 workerID 和 datacenterId 不同 , 怎么做呢 ?

当然是写配置文件 (保证每个机器的 workerId 和 datacenterId 不同) , 然后自己读取 , 比如你有 3 台服务器 , 那么这 3 台服务器的配置分别设置为0,1,2 就行了

原文链接 : https://www.cnblogs.com/relucent/p/4955340.html

作者 Github : tojohnonly , 博客 : EnskDeCode