java函数式编程 map_函数式编程-对Java 8流进行分区

将任意源流划分为固定大小的批次是不可能的，因为这会加重并行处理。 并行处理时，您可能不知道拆分后第一个子任务中有多少个元素，因此您无法为下一个子任务创建分区，直到完全处理第一个子任务。

但是，可以从随机访问ofSubLists创建分区流。例如，在我的ofSubLists库中可以使用这种功能：

List input = Arrays.asList(...);

Stream> stream = StreamEx.ofSubLists(input, partitionSize);

或者，如果您真的想要流：

Stream> stream = StreamEx.ofSubLists(input, partitionSize).map(List::stream);

如果您不想依赖第三方库，则可以手动实现此类ofSubLists方法：

public static Stream> ofSubLists(List source, int length) {

if (length <= 0)

throw new IllegalArgumentException("length = " + length);

int size = source.size();

if (size <= 0)

return Stream.empty();

int fullChunks = (size - 1) / length;

return IntStream.range(0, fullChunks + 1).mapToObj(

n -> source.subList(n * length, n == fullChunks ? size : (n + 1) * length));

}

该实现看起来有些长，但是考虑了一些极端情况，例如接近MAX_VALUE列表大小。

如果您想为无序流提供并行友好的解决方案(因此您不必担心将哪些流元素合并为单个批处理)，则可以使用这样的收集器(感谢@sibnick的启发)：

public static Collector unorderedBatches(int batchSize,

Collector, A, R> downstream) {

class Acc {

List cur = new ArrayList<>();

A acc = downstream.supplier().get();

}

BiConsumer accumulator = (acc, t) -> {

acc.cur.add(t);

if(acc.cur.size() == batchSize) {

downstream.accumulator().accept(acc.acc, acc.cur);

acc.cur = new ArrayList<>();

}

};

return Collector.of(Acc::new, accumulator,

(acc1, acc2) -> {

acc1.acc = downstream.combiner().apply(acc1.acc, acc2.acc);

for(T t : acc2.cur) accumulator.accept(acc1, t);

return acc1;

}, acc -> {

if(!acc.cur.isEmpty())

downstream.accumulator().accept(acc.acc, acc.cur);

return downstream.finisher().apply(acc.acc);

}, Collector.Characteristics.UNORDERED);

}

用法示例：

List> list = IntStream.range(0,20)

.boxed().parallel()

.collect(unorderedBatches(3, Collectors.toList()));

结果：

[[2, 3, 4], [7, 8, 9], [0, 1, 5], [12, 13, 14], [17, 18, 19], [10, 11, 15], [6, 16]]

这样的收集器是完全线程安全的，并为顺序流生成有序批。

如果要对每个批次应用中间转换，则可以使用以下版本：

public static Collector unorderedBatches(int batchSize,

Collector batchCollector,

Collector downstream) {

return unorderedBatches(batchSize,

Collectors.mapping(list -> list.stream().collect(batchCollector), downstream));

}

例如，通过这种方式，您可以即时对每个批次中的数字求和：

List list = IntStream.range(0,20)

.boxed().parallel()

.collect(unorderedBatches(3, Collectors.summingInt(Integer::intValue),

Collectors.toList()));