java多线程读取、操作List集合

2 篇文章 0 订阅

大数据中,多线程分段list操作, demo如下

/**
 * 每500条数据开启一条线程
 *
 * @Author: wpf
 * @Date: 16:05 2018/5/21
 * @Description: 
 * @param  * @param null  
 * @return   
 */
private void threadExec2(List<SysCompany> list) throws ExecutionException, InterruptedException {
    // 开始时间
    long start = System.currentTimeMillis();

    LOG.info("list的大小:" + list.size());

    // 每500条数据开启一条线程
    int threadSize = 500;
    // 总数据条数
    int dataSize = list.size();
    // 线程数
    int threadNum = dataSize / threadSize + 1;
    // 定义标记,过滤threadNum为整数
    boolean special = dataSize % threadSize == 0;
    // 创建一个线程池
    ExecutorService exec = Executors.newFixedThreadPool(threadNum);
    // 定义一个任务集合
    List<Callable<SysCompany>> tasks = new ArrayList<Callable<SysCompany>>();
    Callable<SysCompany> task = null;
    List<SysCompany> cutList = null;
    // 确定每条线程的数据
    for (int i = 0; i < threadNum; i++) {
        if (i == threadNum - 1) {
            if (special) {
                break;
            }
            cutList = list.subList(threadSize * i, dataSize);
        } else {
            cutList = list.subList(threadSize * i, threadSize * (i + 1));
        }
        // LOG.info("第" + (i + 1) + "组:" + cutList.toString());
        final List<SysCompany> listStr = cutList;
        task = new Callable<SysCompany>() {

            @Override
            public SysCompany call() throws Exception {
                for(SysCompany c : listStr){
                    if(StringUtils.isNotEmpty(c.getUsername())){
                        LOG.info("timer:在执行中..." + c.getUsername());
                        // 业务...
                        sysCompanyService.getComCodeByInfoCompanyUser(c.getUsername());
                    }
                }
                return null;
            }
        };
        // 这里提交的任务容器列表和返回的Future列表存在顺序对应的关系
        tasks.add(task);
    }
    List<Future<SysCompany>> results = exec.invokeAll(tasks);
    /*for (Future<SysCompany> future : results) {
        SysCompany c = future.get();
    }*/
    // 关闭线程池
    exec.shutdown();
    LOG.info("线程任务执行结束");
    LOG.info("执行任务消耗了 :" + (System.currentTimeMillis() - start) + "毫秒");
}

/**
 * 固定开辟8线程
 *
 * @Author: wpf
 * @Date: 16:05 2018/5/21
 * @Description:
 * @param  * @param null
 * @return
 */
private void threadExec1(List<SysCompany> list) throws ExecutionException, InterruptedException{
    // 开始时间
    long start = System.currentTimeMillis();

    // 总数据条数
    int listSize = list.size();
    LOG.info("总记录数为:"+listSize);
    // 线程数
    int threadNum = 8;

    // 创建一个线程池
    ExecutorService exec = Executors.newFixedThreadPool(threadNum);
    // 定义一个任务集合
    List<Callable<Integer>> tasks = new ArrayList<Callable<Integer>>();
    Callable<Integer> task = null;
    List<SysCompany> cutList = null;

    // 均分算法
    Map<Integer,Long> map = allotOfAverage1(threadNum,listSize);
    int endValue = 0;
    int startValue = 0;
    int i = 0;
    for (Long v : map.values()) {
        endValue = (int)(startValue+v);
        cutList = list.subList(startValue, endValue);
        startValue += v;
        LOG.info("第" + ++i +"组大小为:"+cutList.size());
        final List<SysCompany> listStr = cutList;
        task = new Callable<Integer>() {
            @Override
            public Integer call() throws Exception {
                for(SysCompany c : listStr){
                    if(StringUtils.isNotEmpty(c.getUsername())){

                        // LOG.info("timer:在执行中..." + c.getUsername());
                        // 业务...
                        sysCompanyService.getComCodeByInfoCompanyUser(c.getUsername());
                    }
                }
                return 1;
            }
        };
        // 这里提交的任务容器列表和返回的Future列表存在顺序对应的关系
        tasks.add(task);
    }

    List<Future<Integer>> results = exec.invokeAll(tasks);
    for (Future<Integer> future : results) {
        LOG.info(future.get());
    }
    // 关闭线程池
    exec.shutdown();
    LOG.info("线程任务执行结束");
    LOG.info("执行任务消耗了 :" + (System.currentTimeMillis() - start) + "毫秒");
}
/*
 * 平均分配
 */
public static Map<Integer,Long> allotOfAverage1(int threadNum, long listSize){
    Map<Integer,Long> allot=new HashMap<Integer,Long>(); //保存分配的信息
    for(int i=0;i<listSize;i++){
        int j=i%threadNum;
        if(allot.containsKey(j)){
            allot.put(j, allot.get(j) +1);
        }else{
            allot.put(j, 1L);
        }
    }
    return allot;
}

  • 0
    点赞
  • 13
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
Java中的多线程处理List集合通常用于提高程序的并发性能和资源利用率。多线程可以同时执行多个任务,而List集合提供了有序的数据结构,适合在并发环境中进行读写操作。以下是使用多线程处理List的一些关键点: 1. **线程安全**:对于List集合,如果要在多线程环境下直接修改(如添加、删除元素),应使用`Collections.synchronizedList(list)`确保线程安全,这样每次修改都会自动同步。 2. **CopyOnWriteArrayList**:`CopyOnWriteArrayList`是一个线程安全的列表实现,当线程试图修改时,会创建一个新的列表副本进行修改,避免了同步带来的性能开销,但不适合频繁的随机访问。 3. **并发包的工具类**:`java.util.concurrent`包中提供了`ConcurrentHashMap`和`BlockingQueue`等线程安全的数据结构,这些可以用来配合多线操作List,例如用`BlockingQueue`作为缓冲区,处理线程间的数据交换。 4. **线程池**:使用`ExecutorService`或`ThreadPoolExecutor`创建线程池可以更好地管理并发任务,确保资源的有效利用,并可以通过设置线程池大小控制并发程度。 5. **线程同步**:如果需要多个线程同时读取但只修改一个线程的List,可以使用`synchronized`关键字对特定范围内的代码块进行同步,防止数据冲突。 6. **原子操作**:`AtomicInteger`, `AtomicLong`等原子类可以在多线程环境中保证操作的原子性,对于List的索引更新等场景很有帮助。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值