这次做一个数据拷贝的活,考虑数据量大,试着做多线程方式,碰到LongAdder的使用问题,记录之
1.第一版拷贝,单线程,嵌套for循环插入数据库,保证数据正确性。由于数据量庞大,100多万条数据拆分成多张表记录,数据量超过1000万条,逐条插入效率低下,总计时间将近10小时。
2.第二版拷贝,单线程,嵌套for循环整理数据,已最小分类为最小单元,批量插入数据库。时间提升将近50%。此时使用LongAdder维持id的增量未出现id重复问题。但是在接口多次请求时,即多线程时,出现id重复问题。记录如下:
(1)初始化各表主键和调用方法如下
private static volatile LongAdder longAdderBig = null;
private static volatile LongAdder longAdderSmall = null;
private static volatile LongAdder longAdderOption = null;
private static volatile LongAdder longAdderAttachment = null;
private synchronized void init() {
if (longAdderBig == null) {
longAdderBig = new LongAdder();
longAdderBig.add(Optional.ofNullable(examQuestionBigMapper.findMaxId()).orElse(0L));
}
if (longAdderSmall == null) {
longAdderSmall = new LongAdder();
longAdderSmall.add(Optional.ofNullable(examQuestionSmallMapper.findMaxId()).orElse(0L));
}
if (longAdderOption == null) {
longAdderOption = new LongAdder();
longAdderOption.add(Optional.ofNullable(examQuestionOptionMapper.findMaxId()).orElse(0L));
}
if (longAdderAttachment == null) {
longAdderAttachment = new LongAdder();
longAdderAttachment.add(Optional.ofNullable(examQuestionAttachmentMapper.findMaxId()).orElse(0L));
}
if (null == examQuestionbankService) {
examQuestionbankService = applicationContext.getBean(ExamQuestionbankServiceImpl.class);
System.out.println("初始化");
}
}
private Long getBigId() {
longAdderBig.increment();
return longAdderBig.longValue();
}
private Long getSmallId() {
longAdderSmall.increment();
return longAdderSmall.longValue();
}
private Long getOptionId() {
longAdderOption.increment();
return longAdderOption.longValue();
}
private Long getAttachmentId() {
longAdderAttachment.increment();
return longAdderAttachment.longValue();
}
(2)在方法中初始化,该方法为异步方法,即接口多次请求,会发生多线程
(3)这种写法在接口多次请求发生的初期,会出现id重复的错误
(4)LongAdder都说是较AtomicLong更高级高效的,我不知道我这么用是不是正确,查看LongAdder的lognValue()方法,实现如下,返回是sum()方法的结果。