Java 多线程stream流按行读取文件

stream并行流快(文件11g)

try (Stream<String> lines = Files.lines(filePath)) {
    lines.parallel().forEach(str -> operatePartData(str, allDataList));
} catch (IOException e) {
    throw new RuntimeException(e);
}

线程池慢(文件11g)

lines.skip(1).limit(37230)
limit() 范围是在skip的偏移量上增加行数范围

ThreadPoolExecutor poolExecutor = new ThreadPoolExecutor(2, 3, 1, TimeUnit.SECONDS, new ArrayBlockingQueue<>(10));
        for (int i = 1; i <= THREAD_TIME; i++) {
            int finalI = i;
            int startIndex = (i - 1) * avgLines + 1;
            int endIndex = i * avgLines;

            poolExecutor.execute(() -> {
                List<String[]> partData = new ArrayList<>();
                try (Stream<String> lines = Files.lines(filePath)) {
                    if (1 == finalI) {
                        lines.skip(1).limit(endIndex).forEach(str -> {
                            operatePartData(str, partData);
                        });
                        System.out.printf("------------------ %s 起始位置:%s - %s, 数据量:%s%n", finalI, 1, endIndex, partData.size());
                    } else if (THREAD_TIME == finalI) {

                        lines.skip(startIndex).limit(totalLines.get() - startIndex).forEach(str -> {
                            operatePartData(str, partData);
                        });
                        System.out.printf("------------------ %s 起始位置:%s - %s, 数据量:%s%n", finalI, startIndex, totalLines.get(), partData.size());
                    } else {
                        lines.skip(startIndex).limit(endIndex - startIndex).forEach(str -> {
                            operatePartData(str, partData);
                        });
                        System.out.printf("------------------ %s 起始位置:%s - %s, 数据量:%s%n", finalI, startIndex, endIndex, partData.size());
                    }
                    if (!partData.isEmpty()) {
                        allDataList.addAll(partData);
                    }
                } catch (IOException e) {
                    throw new RuntimeException(e);
                } finally {
                    countDownLatch.countDown();
                }
            });
        }
        try {
            countDownLatch.await();
        } catch (InterruptedException e) {
            throw new RuntimeException(e);
        }
        poolExecutor.shutdown();
        writeToFile(allDataList, outFileName);
  • 3
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值