最近项目有个需求,对数据库中的号码进行检查,检查号码状态是否正常,检查方法需要依赖接口,每个号码调一次http接口,
基本思路:
1,轮询分页查询数据库,取号码
2,对取出的号码循环调接口查询
3,接口结果记录到文件中
由于最初没有考虑大量号码的情况,使用的是单线程处理,当时2W号码用了4个小时,简直跑废了的感觉,可能接口返回比较慢接近1s
后边就使用了多线程处理,网上查了下,基本都是多线程处理数据,然后缓存到队列,单独起一个写文件线程,从队列中取数据,然后写入,实际处理10W数据,使用30分钟左右,提升很大
代码利用得队列是ConcurrentLinkedQueue,多线程安全,不需要考虑自己进行同步加锁操作,不过网上说如果像下边这种写法需要自己进行同步
if(!queue.isEmpty()) {
queue.poll(obj);
}
需要自己进行同步
synchronized(queue) {
if(!queue.isEmpty()) {
queue.poll(obj);
}
}
下边贴代码:
@Service
public class CheckDataService {