场景
- 每天需要记录600w条日志左右
- 当日志达到2亿左右时,就需要定时删除最先生成的日志
- 实时将日志导入到Hive中
UUID实现
- 插入日志,主键直接使用UUID,满足业务要求
- 缺点: 使用了Mac地址,因此会暴露Mac地址和生成时间
变种UUID
//IP 调用IP
// 时间戳
// userId
// operatorId
// 随机数 1 ~ 10000
String format = "single-IP-%d-%d-%d-%d";
ThreadLocalRandom random = ThreadLocalRandom.current();
String idFromat = String.format(format, System.nanoTime(), 18, 999, random.nextInt(1000));
UUID uuid = UUID.nameUUIDFromBytes(idFromat.getBytes());
System.out.println(uuid.toString());
- 根据参数生成UUID
- 即使参数相同,生成的UUID也不同
- 随机数使用 ThreadLocalRandom
- 缺点
生成稍微麻烦,通过主键ID删除先生成的日志比较慢
增肌插入日志的时间戳,通过这个时间戳过滤需要删除的主键ID,查询巨慢
bigint实现
- 定义数据库类型为 bigint(20),Java实体类为 BigInteger
- 经计算,Long.MAX_VALUE(9223372036854775807),至少能用100年
- 优点
不关心主键ID的生成,后续删除日志很方便,直接通过主键ID递增即可操作。
初次删除缓存时,从id=1或者指定id值开始进行删除(可能存在切换缓存源)
定义循环多少次,每次循环量(可配置),这样可以做到不用查询,直接通过id删除
-
老大想日志始终保持在1亿左右,通过最大主键减1亿,删除日志随着业务操作进行
-
通过测试查询max(id)时间,这种方案不可行
-
区间ID取值
LongStream.range(long startInclusive, final long endExclusive)
// 包含结束区间
LongStream.rangeClosed(long startInclusive, final long endInclusive)