雪花算法介绍

https://zhuanlan.zhihu.com/p/152179727

为什么需要分布式全局唯一ID以及分布式ID的业务需求

在复杂的分布式系统中，往往需要对大量的数据和消息进行唯一标识。
拿MySQL数据库举个栗子：
在我们业务数据量不大的时候，单库单表完全可以支撑现有业务，数据再大一点搞个MySQL主从同步读写分离也能对付。

但随着数据日渐增长，主从同步也扛不住了，就需要对数据库进行分库分表，但分库分表后需要有一个唯一ID来标识一条数据，数据库的自增ID显然不能满足需求；特别一点的如订单、优惠券也都需要有唯一ID做标识。此时一个能够生成全局唯一ID的系统是非常必要的。那么这个全局唯一ID就叫分布式ID。

ID生成规则部分硬性要求

软件算法要求

• 全局唯一：不能出现重复的ID号，既然是唯一标识，这是最基本的要求
• 趋势递增：在Mysql的innoDB引擎使用的是聚集索引，由于多数RDBMS使用B+树的数据结构来存储索引数据，在主键的选择上面，我们应该尽量使用有序的主键保证写入性能。
• 单调递增：保证下一个ID一定大于上一个ID,例如事务版本号，IM增量消息，排序等特殊需求。
• 信息安全：如果ID是连续的，恶意用户的扒取工作就非常容易做了，直接按照顺序下载指定url即可；如果是订单号就更危险了，竞争对手可以直接指导我们一天的单量。所以在一些应用场景下，需要ID无规则不规则，让竞争对手不好猜。
• 含时间戳：这样就能够在开发中快速了解这个分布式id的生成时间

ID号生成系统的可用性要求

硬件要求

• 高可用：发一个获取分布式ID的请求，服务器就要保证99.9999%的情况下给我创建一个唯一分布式ID
• 低延迟：发一个获取分布式ID的请求，服务器就要快，极快，毫秒级别。不然双十一根本扛不住
• 高QPS：假如并发一口气10万个创建分布式ID请求同时杀过来，服务器要顶的住且一下子成功创建10万个分布式ID

一般通过方案

UUID

 String s = UUID.randomUUID().toString();

如果只考虑唯一性，uuid是ok的，但是它是无序的，入数据库性能差。

数据库自增主键

数据库的自增ID机制的主要原理是，数据库自增ID和mysql数据库的replace info实现的。
replace info根insert功能类似，不同在于：replace info首先尝试插入数据列表中，如果发现表中已经有此行数据(根据主键或唯一索引判断)，则先删除，再插入；否则，直接插入新数据。

REPLACE INTO goods(STATUS,name,num,version) VALUES(1,"abc",1,1);
select LAST_INSERT_ID();

那数据库自增ID机制适合做分布式ID吗？
不合适。

• 系统水平扩展比较困难，比如定义好了步长和机器台数之后，如果要添加机器该怎么做？假设现在只有一台机器发号是1,2，3,4,5(步长是1)，这个时候需要扩容机器一台，可以这样做，把第二台机器的初始值，设置得比第一台超过很多，貌似还好，现如果100台机器呢？没法玩了
• 数据库压力还是很大，每次获取ID都得读写一次数据库，非常影响性能，不符合分布式ID里面的延迟低和要高QPS的规则。

基于redis生成全局id策略

因为redis是单线程的天生保证原子性，可以使用原子操作incr和incrby来实现。

集群分布式下：
在Redis集群情况下，同样和mysql一样需要设置不同的增长步长，同时key一定要设置有效期。
可以使用集群来获取更高的吞吐量。
假如一个集群中有5台redis，可以初始化每台redis的值分别是1，2，3，4,5，然后步长都是5。
各个redis生成ID为：
A:1,6,11,16,21
B:2,7,12,17,22
C:3,8,13,18,23
D:4,9,14,19,24
E:5,10,15,20,25

集群有几台机器，步长就设置为多少

该方案是可行的
唯一缺点：为了一个id，配置麻烦，维护麻烦，就想要个id,却要维护一个redis集群。

雪花算法

Twitter的分布式自增ID算法，经过测试snowflake每秒能够产生26万个自增可排序的ID。

1. Twitter的雪花算法生成ID能够按照时间有序生成
2. 雪花算法生成id的结果是一个64bit大小的整数，为一个long型
3. 分布式系统内不会产生ID碰撞并且效率较高

结构

号段解析：

• 第一个bit位（1bit）：Java中long的最高位是符号位代表正负，正数是0，负数是1，一般生成ID都为正数，所以默认为0。
• 时间戳部分（41bit）：毫秒级的时间，不建议存当前时间戳，而是用（当前时间戳 - 固定开始时间戳）的差值，可以使产生的ID从更小的值开始；41位的时间戳可以使用69年，(1L << 41) / (1000L * 60 * 60 * 24 * 365) = 69年，2的41次方 -1毫秒值就是69年
• 工作机器id（10bit）：也被叫做workId，这个可以灵活配置，机房或者机器号组合都可以。可以部署在2^10=1024个节点，包括5位datacenterId和5位workerId
• 序列号部分（12bit）：自增值支持同一毫秒内同一个节点可以生成4096个ID。12位可以表示的最大正整数2^12-1=4095，即可以用0,1，2，3…4094这4095个数字，来表示同一机器同一时间(1毫秒)内产生4095个ID序号。

雪花算法可以保证：
所有生成的id按时间趋势递增；
整个分布式系统内不会产生重复id(因为有datacenterId和workerId来做区分)

github：https://github.com/twitter-archive/snowflake

源码

//雪花算法代码实现
public class IdWorker {
    // 时间起始标记点，作为基准，一般取系统的最近时间（一旦确定不能变动）
    private final static long twepoch = 1288834974657L;
    // 机器标识位数
    private final static long workerIdBits = 5L;
    // 数据中心标识位数
    private final static long datacenterIdBits = 5L;
    // 机器ID最大值
    private final static long maxWorkerId = -1L ^ (-1L << workerIdBits);
    // 数据中心ID最大值
    private final static long maxDatacenterId = -1L ^ (-1L << datacenterIdBits);
    // 毫秒内自增位
    private final static long sequenceBits = 12L;
    // 机器ID偏左移12位
    private final static long workerIdShift = sequenceBits;
    // 数据中心ID左移17位
    private final static long datacenterIdShift = sequenceBits + workerIdBits;
    // 时间毫秒左移22位
    private final static long timestampLeftShift = sequenceBits + workerIdBits + datacenterIdBits;
 
    private final static long sequenceMask = -1L ^ (-1L << sequenceBits);
    /* 上次生产id时间戳 */
    private static long lastTimestamp = -1L;
    // 0，并发控制
    private long sequence = 0L;
 
    private final long workerId;
    // 数据标识id部分
    private final long datacenterId;
 
    public IdWorker(){
        this.datacenterId = getDatacenterId(maxDatacenterId);
        this.workerId = getMaxWorkerId(datacenterId, maxWorkerId);
    }
    /**
     * @param workerId
     *            工作机器ID
     * @param datacenterId
     *            序列号
     */
    public IdWorker(long workerId, long datacenterId) {
        if (workerId > maxWorkerId || workerId < 0) {
            throw new IllegalArgumentException(String.format("worker Id can't be greater than %d or less than 0", maxWorkerId));
        }
        if (datacenterId > maxDatacenterId || datacenterId < 0) {
            throw new IllegalArgumentException(String.format("datacenter Id can't be greater than %d or less than 0", maxDatacenterId));
        }
        this.workerId = workerId;
        this.datacenterId = datacenterId;
    }
    /**
     * 获取下一个ID
     *
     * @return
     */
    public synchronized long nextId() {
        long timestamp = timeGen();
        if (timestamp < lastTimestamp) {
            throw new RuntimeException(String.format("Clock moved backwards.  Refusing to generate id for %d milliseconds", lastTimestamp - timestamp));
        }
 
        if (lastTimestamp == timestamp) {
            // 当前毫秒内，则+1
            sequence = (sequence + 1) & sequenceMask;
            if (sequence == 0) {
                // 当前毫秒内计数满了，则等待下一秒
                timestamp = tilNextMillis(lastTimestamp);
            }
        } else {
            sequence = 0L;
        }
        lastTimestamp = timestamp;
        // ID偏移组合生成最终的ID，并返回ID
        long nextId = ((timestamp - twepoch) << timestampLeftShift)
                | (datacenterId << datacenterIdShift)
                | (workerId << workerIdShift) | sequence;
 
        return nextId;
    }
 
    private long tilNextMillis(final long lastTimestamp) {
        long timestamp = this.timeGen();
        while (timestamp <= lastTimestamp) {
            timestamp = this.timeGen();
        }
        return timestamp;
    }
 
    private long timeGen() {
        return System.currentTimeMillis();
    }
 
    /**
     * <p>
     * 获取 maxWorkerId
     * </p>
     */
    protected static long getMaxWorkerId(long datacenterId, long maxWorkerId) {
        StringBuffer mpid = new StringBuffer();
        mpid.append(datacenterId);
        String name = ManagementFactory.getRuntimeMXBean().getName();
        if (!name.isEmpty()) {
            /*
             * GET jvmPid
             */
            mpid.append(name.split("@")[0]);
        }
        /*
         * MAC + PID 的 hashcode 获取16个低位
         */
        return (mpid.toString().hashCode() & 0xffff) % (maxWorkerId + 1);
    }
 
    /**
     * <p>
     * 数据标识id部分
     * </p>
     */
    protected static long getDatacenterId(long maxDatacenterId) {
        long id = 0L;
        try {
            InetAddress ip = InetAddress.getLocalHost();
            NetworkInterface network = NetworkInterface.getByInetAddress(ip);
            if (network == null) {
                id = 1L;
            } else {
                byte[] mac = network.getHardwareAddress();
                id = ((0x000000FF & (long) mac[mac.length - 1])
                        | (0x0000FF00 & (((long) mac[mac.length - 2]) << 8))) >> 6;
                id = id % (maxDatacenterId + 1);
            }
        } catch (Exception e) {
            System.out.println(" getDatacenterId: " + e.getMessage());
        }
        return id;
    }

    public static void main(String[] args) {
        IdWorker idWorker = new IdWorker(0, 0);
        for (int i = 0; i < 10; i++) {
            long id = idWorker.nextId();
            System.out.println(id);
            System.out.println("========================");
        }
    }

}

注意这是源码，工作中不会用这个。要封装。不过已经有人封装好了。

缩短id到16
去掉了datacenterId机房号，同时序列号缩短到SEQUENCE_BIT=8

    // 毫秒内自增位
//    private final static long sequenceBits = 12L;
    private final static long sequenceBits = 8L;
    // 时间毫秒左移22位
//    private final static long timestampLeftShift = sequenceBits + workerIdBits + datacenterIdBits;
    private final static long timestampLeftShift = sequenceBits + workerIdBits;

    public synchronized long nextId() {
	.。。。。。。。。。。
        // ID偏移组合生成最终的ID，并返回ID
        long nextId = ((timestamp - twepoch) << timestampLeftShift)
//                | (datacenterId << datacenterIdShift)
                | (workerId << workerIdShift) | sequence;
 
        return nextId;
    }

工程落地经验

糊涂工具包：

github：https://github.com/looly/hutool
官网：https://hutool.cn/

依赖：

 <!--糊涂工具包-->
 <dependency>
     <groupId>cn.hutool</groupId>
     <artifactId>hutool-all</artifactId>
     <version>5.3.9</version>
 </dependency>

使用：

@Slf4j
@Component
public class IdGeneratorSnowFlake {
    /**
     * 工作中心(机房) 0-31
     */
    private long workerId=0;
    /**
     * 1号机器  0-31
     */
    private long datacenterId=1;
    private Snowflake snowflake= IdUtil.createSnowflake(workerId, datacenterId);

    @PostConstruct
    public void init(){
        try {
            workerId = NetUtil.ipv4ToLong(NetUtil.getLocalhostStr());
            log.info("当前机器的workerId：{}", workerId);
        }catch (Exception e){
         e.printStackTrace();
         log.warn("当前机器的workerId获取失败",e);
         workerId=NetUtil.getLocalhostStr().hashCode();
        }
    }

    public synchronized long snowflakeId(){
        return snowflake.nextId();
    }
    public synchronized long snowflakeId(long workerId, long datacenterId){
        Snowflake snowflake= IdUtil.createSnowflake(workerId, datacenterId);
        return snowflake.nextId();
    }

    public static void main(String[] args) {
//        long id = new IdGeneratorSnowFlake().snowflakeId();
//        System.out.println(id);
        //多线程下测试
        IdGeneratorSnowFlake idGeneratorSnowFlake=new IdGeneratorSnowFlake();
        ExecutorService executorService = Executors.newFixedThreadPool(5);

        for (int i = 0; i < 20; i++) {
            executorService.submit(()->{
                System.out.println(idGeneratorSnowFlake.snowflakeId());
            });
        }
        executorService.shutdown();
    }
}

优缺点

对于时钟回拨导致重复ID生成的问题，业内已经有完整的解决方案：

• 百度开源的分布式唯一ID生成器UidGenerator
• Leaf——美团点评分布式ID生成系统

使用

雪花id在前端js超限，损失了精度，改造为生成16位
去掉了datacenterId机房号，同时序列号缩短到SEQUENCE_BIT=8

@Component
@ConditionalOnProperty(name = "boe.park.tool.snowflake.enabled",havingValue = "true")
public class CustomerIdGenerator implements IdentifierGenerator {
    @Override
    public Long nextId(Object entity) {
        return IdGenerator.generateId();
    }
}

import java.util.Date;
import java.util.UUID;
/**
 * compressed id generator, result id not great than 53bits before 2318-06-04.
 */
public class IdGenerator {
 
    private static IdGenerator instance = new IdGenerator(0);
 
    public static IdGenerator initDefaultInstance(int machineId) {
        instance = new IdGenerator(machineId);
        return instance;
    }
 
    public static IdGenerator getInstance() {
        return instance;
    }
 
    public static long generateId() {
        return instance.nextId();
    }
 
    // total bits=53(max 2^53-1：9007199254740992-1)
 
    // private final static long TIME_BIT = 40; // max: 2318-06-04
    private final static long MACHINE_BIT = 5; // max 31
    private final static long SEQUENCE_BIT = 8; // 256/10ms
 
    /**
     * mask/max value
     */
    private final static long MAX_MACHINE_NUM = -1L ^ (-1L << MACHINE_BIT);
    private final static long MAX_SEQUENCE = -1L ^ (-1L << SEQUENCE_BIT);
 
    private final static long MACHINE_LEFT = SEQUENCE_BIT;
    private final static long TIMESTMP_LEFT = MACHINE_BIT + SEQUENCE_BIT;
 
    private long machineId;
    private long sequence = 0L;
    private long lastStmp = -1L;
 
    private IdGenerator(long machineId) {
        if (machineId > MAX_MACHINE_NUM || machineId < 0) {
            throw new IllegalArgumentException(
                    "machineId can't be greater than " + MAX_MACHINE_NUM + " or less than 0");
        }
        this.machineId = machineId;
    }
 
    /**
     * generate new ID
     *
     * @return
     */
    public synchronized long nextId() {
        long currStmp = getTimestamp();
        if (currStmp < lastStmp) {
            throw new RuntimeException("Clock moved backwards.  Refusing to generate id");
        }
 
        if (currStmp == lastStmp) {
            sequence = (sequence + 1) & MAX_SEQUENCE;
            if (sequence == 0L) {
                currStmp = getNextTimestamp();
            }
        } else {
            sequence = 0L;
        }
 
        lastStmp = currStmp;
 
        return currStmp << TIMESTMP_LEFT //
                | machineId << MACHINE_LEFT //
                | sequence;
    }
 
    private long getNextTimestamp() {
        long mill = getTimestamp();
        while (mill <= lastStmp) {
            mill = getTimestamp();
        }
        return mill;
    }
 
    private long getTimestamp() {
        // per 10ms
        return System.currentTimeMillis() / 10;// 10ms
    }
 
    public static Date parseIdTimestamp(long id) {
        return new Date((id >>> TIMESTMP_LEFT) * 10);
    }
 
    public static String uuid() {
        return UUID.randomUUID().toString().replaceAll("-", "");
    }
}