Java8_流

一、为什么需要Stream

Stream作为Java 8 的一大亮点，它与java.io 包里的 InputStream 和 OutputStream 是完全不同的概念。它也不同于 StAX 对 XML 解析的 Stream，也不是 Amazon Kinesis 对大数据实时处理的 Stream。Java 8 中的 Stream 是对集合（Collection）对象功能的增强，它更加专注于对集合对象进行各种非常便利、高效的聚合操作，或者大批量的数据操作。Stream API 借助于同样新出现的 Lambda 表达式，极大的提高了编程效率和程序可读性。同时它提供串行和并行两种模式进行聚合操作，并发模式能够充分利用多核处理器的优势，使用 fork/join 并行方式来拆分任务和加速处理的过程。通常编写并行代码很难而且容易出错，但是用 Stream API无需编写一行多线程的代码，就可以很方便的写出高性能的并发程序。所以说，Java 8 中首次出现的 java.util.stream 是一个函数式语言+多核时代综合影响的产物。

1、聚合操作

在传统的 javaEE 中，Java 代码经常不得不依赖于关系型数据库的聚合操作来完成诸如：

• 客户每月平均消费金额
• 最昂贵的在售商品
• 本周完成的有效订单（排除了无效的）
• 取十个数据样本作为首页推荐

这类操作。

但在当今这个数据大爆炸的时代，在数据来源多样化、数据海量化的今天，很多时候不得不脱离 RDBMS，或者以底层返回的数据为基础进行更上层的数据统计。而 Java 的集合 API 中，仅仅有极少量的辅助型方法，更多的时候是程序员需要用 Iterator 来遍历集合，完成相关的聚合应用逻辑。这是一种远不够高效、笨拙的方法。在 Java 7 中，如果要发现 type 为 grocery 的所有交易，然后返回以交易值降序排序好的交易 ID 集合，我们需要这样写：

如：Java 7 的排序和取值的实现

List<Transaction> groceryTransactions = new Arraylist<>();
for(Transaction t: transactions){
   if(t.getType() == Transaction.GROCERY){
      groceryTransactions.add(t);
   }
}
Collections.sort(groceryTransactions, new Comparator(){
   public int compare(Transaction t1, Transaction t2){
      return t2.getValue().compareTo(t1.getValue());
   }
});
List<Integer> transactionIds = new ArrayList<>();
  for(Transaction t: groceryTransactions){
      transactionsIds.add(t.getId());
  }

Java 8 使用 Stream 代码更加简洁易读；而且使用并发模式，程序执行速度更快。

List<Integer> transactionsIds = transactions.parallelStream()
.filter(t -> t.getType() == Transaction.GROCERY)
.sorted(comparing(Transaction::getValue).reversed())
.map(Transaction::getId)
.collect(toList());

二、Stream 总览

1、什么是流

Stream 不是集合元素，它不是数据结构并不保存数据，它是有关算法和计算的，更像一个高级版的 Iterator 。原始版本的 Iterator，用户只能显式的一个一个遍历元素并对其执行某些操作；高级版的 Stream ，用户只要给出需要对其包含的元素执行什么操作，比如 “过滤掉长度大于10的字符串”、“获取每个字符串的首字母” 等，Stream 会隐式的在内部进行遍历，做出相应的数据转换。

Stream 就如同一个迭代器（Iterator），单向，不可往复，数据只能遍历一次，遍历过一次后即用尽了，好比从面前流过的水，一去不复返。

而和迭代器又不同的是，Stream 可以进行并行化操作，迭代器只能进行命令式的、串行化操作。顾名思义，当使用串行化方式去遍历的时候，每个 item 读完之后再读取下一个 item 。而使用并行去遍历的时候，数据会被分成很多段，其中每一个都在不同的线程中处理，然后将结果一起输出。Stream 的并行操作依赖于 Java 7 中引入的 Fork / Join 框架来分拆任务和加速处理过程。

Stream 的另一大特点就是数据源本身可以是无限的。

2、流的构成

当我们使用流的时候通常包括三个步骤：

获取一个数据源（source）-> 数据转换 -> 执行操作获取想要的结果，每次转换原有的 Stream 对象不改变，返回一个新的Stream对象（可以有多次转换），这就允许对其操作可以像链条一样排序，变成一个管道，如下：

多种方式生成 Stream Source ：

1）从Collection和数组

• Collection.stream();
• Collection.parallelStream()
• Arrays.stream(T array) or Stream.of()

2）BufferReader

• java.io.BufferedReader.lines()

3）静态工厂

•  java.util.stream.IntStream.range()
•  java.nio.file.Files.walk()

4）自己构建

• java.util.Spliterator

5）其他

• Random.ints()
• BitSet.stream()
• Pattern.splitAsStream(java.lang.CharSequence)
• JarFile.stream()

流的操作类型分为两种：

• Intermediate：一个流可以后面跟随零个或多个 intermediate 操作。其目的主要是打开流，做出某种程度的数据映射 / 过滤，然后返回一个新的流，交给下一个操作使用。这类操作都是惰性化得（Lazy），就是说仅仅调用到这类方法，并没有真正开始流的便利。
   
• Terminal：一个流只能有一个 terminal 操作，当这个操作执行后，流就被用 “光” 了，无法再被操作。所以这必定是流的最后一个操作。Terminal 操作的执行，才会真正开始流的便利，并且会产生一个结果或一个side effect。

在对于一个 Stream 进行多次转换操作（Intermediate），每次都对 Stream 的每个元素进行转换，而且是执行多次，这样时间复杂度就是 N （转换次数）个 for 循环里把所有操作都做掉的总和吗？其实不是这样的，转换操作都是lazy的，多个转换操作只会在Terminal操作的时候融合起来，一次循环完成。我们可以这样简单的理解，Stream 里面有个操作函数的集合，每次转换操作就是把转换操作放入这个集合中。在 Terminal 操作的时候循环 Stream 对应的集合，然后对每个元素执行所有函数。

还有一种操作被称为 short-circuiting：

• 对于一个 Intermediate 操作，如果它接受一个无限大（infinite / unbounded）的Stream，但返回一个有限的新 Stream。
• 对于一个 Terminal 操作，如果它接受的是一个无限大的 Stream，但能在有限时间内计算出来结果。

当操作一个无限大的 Stream，而又希望在有限时间内完成操作，则在管道内拥有一个 short-circuiting 操作是必要非充分条件。

int sum = widgets.stream()
.filter(w -> w.getColor() == RED)
 .mapToInt(w -> w.getWeight())
 .sum();

stream( )获取当前小物件的 source，filter 和 mapToInt 为 Intermediate 操作，进行数据筛选和转换，最后一个 sum( ) 为Terminal操作，对符合条件的全部小物件做重量求和。

三、流的使用详解

简单来说，对 Stream 的使员就是一个 filter-map-reduce 过程，产生一个最终结果，或者导致一个副作用（side-effect）。

1、流的构造与转换

构造流的几种常见方法：

        //1、individual values
        Stream stream = Stream.of("a","b","c");
        //2、Arrays
        String[] strArray = new String[]{"a", "b", "c"};
        stream = Stream.of(strArray);
        或
        stream = Arrays.stream(strArray);
        //3、Collections
        List<String> strList = Arrays.asList(strArray);
        stream = strList.stream();

需要注意的是，对于基本数值型，目前有三种对应的包装类型 Stream：

IntStream、LongStream、DoubleStream。当然我们也可以用 Stream<Integer>、Stream<Long> >、Stream<Double>，但是 boxing 和 unboxing 会很耗时，所以特别为这三种基本数值型提供了对应的 Stream。

Java 8 中还没有提供其它数值型 Stream，因为这将导致扩增的内容较多。而常规的数值型聚合运算可以通过上面三种 Stream 进行。

数值流的构造：

        IntStream.of(new int[]{1,2,3}).forEach(System.out::println);
        IntStream.range(1,3).forEach(System.out::println);
        IntStream.rangeClosed(1,3).forEach(System.out::println);

流转换为其他数据结构：

        Stream stream = Stream.of("a", "b", "c");
        //1、Array
        String[] str = (String[]) stream.toArray(String[]::new);
        //2、Collection
        List<String> list1 = (List<String>) stream.collect(Collectors.toList());
        List<String> list = (List<String>) stream.collect(Collectors.toCollection(ArrayList::new));
        Set set = (Set) stream.collect(Collectors.toSet());
        Stack stack = (Stack) stream.collect(Collectors.toCollection(Stack::new));
        //3、String
        String string = stream.collect(Collectors.joining()).toString();

一个 Stream 只可以使用一次，上面的代码为了简洁而重复使用了数次。

2、流的操作

接下来，当把一个数据结构包装成 Stream 之后，就要开始对其中的元素进行操作了。常见的操作如下：

• Intermediate：
  map（mapToInt，flatMap等）、filter、distinct、sort、peek、limit、skip、parallel、sequential、unordered
• Terminal：
  forEach、forEachOrdered、toArray、reduce、collect、min、max、count、anyMatch、allMatch、noneMatch、findFirst、findAny、iterator
• Short-circuiting：
  anyMatch、allMatch、noneMatch、findFirst、findAny、limit

首先来看看Stream比较经典的用法：

map / flatMap

如果你熟悉 scala 这类函数式语言，对这个方法应该很了解，它的作用就是把 input Stream 的每一个元素，映射成 output Stream 的另外一个元素。

转换大写

List<String> list = Arrays.asList("a","b","c","d");
List<String> output = list.stream().map(String::toUpperCase).collect(Collectors.toList());

平方数

List<Integer> nums = Arrays.asList(1,2,3,4);
List<Integer> squareNums = nums.stream().map(n->n*n).collect(Collectors.toList());

以上的例子都是map生成的1:1的映射，每个输入元素，都按照规则转换成另一个元素。还有一些场景，是一对多映射关系的，这时需要 flatMap。

 Stream<List<Integer>> inputStream = Stream.of(
                Arrays.asList(1),
                Arrays.asList(2,3),
                Arrays.asList(4,5,6)
        );
 Stream<Integer> outputStream = inputStream.flatMap((childList) -> childList.stream());

flatMap 是把 inputStream 里的层级结构扁平化了，就是将最底层的元素抽出来放到一起，最终 outputStream 里已经没有 List 了，都是直接的数字。

filter

filter 对原始的 Stream 进行某项测试，通过测试的元素被留下来生成一个新 Stream 。

留下偶数

 Integer[] sixNums = {1, 2, 3, 4, 5, 6};
 Integer[] events = Stream.of(sixNums).filter(n->n%2==0).toArray(Integer[]::new);

把单词挑出来

List<String> output = reader.lines()
    .flatMap(line -> Stream.of(line.split(REGEXP)))
    .filter(word -> word.length() > 0)
    .collect(Collectors.toList());

这段代码首先把每行的单词用 flatMap 整理到新的 Stream，然后保留长度不为 0 的，就是整篇文章中的全部单词了。

forEach

forEach方法接收一个 Lambda 表达式，然后在 Stream 的每一个元素上执行该表达式。

// Java 8
roster.stream()
 .filter(p -> p.getGender() == Person.Sex.MALE)
 .forEach(p -> System.out.println(p.getName()));
// Pre-Java 8
for (Person p : roster) {
 if (p.getGender() == Person.Sex.MALE) {
 System.out.println(p.getName());
 }
}

对于一个人员集合遍历，找出男性并打印姓名。可以看出 forEach 是为 Lambda 而设计的，保持了最紧凑的风格。而且 Lambda 表达式本身是可以重用的，非常方便。当需要为多核系统优化时，可以 parallelStream( ).forEach( )，只是此时原有元素的次序没法保证，并行的情况下将改变串行时操作的行为，此时 forEach 本身的实现不需要调整，而 Java 8 以前的 for 循环 code 可能需要加入额外的多线程逻辑。

但一般认为，forEach 和常规 for 循环的差异不涉及到性能，它们仅仅是函数式风格与传统 Java 风格的差别。

另外一点需要注意的是，forEach 是 Terminal 操作，因此执行后，Stream 的元素就被 “消费” 掉了，你无法对一个 Stream 进行两次 Terminal 运算。下面是错误的：

stream.forEach(element -> doOneThing(element));
stream.forEach(element -> doAnotherThing(element));

相反，具有相似功能的 Intermediate 操作 peek 可以达到上述目的。如下是出现在该 api javadoc 上的一个实例。

peek 对每个元素执行操作并返回一个新的 Stream

Stream.of("one", "two", "three", "four")
                .filter(e->e.length()>3)
                .peek(e->System.out.println("Filtered value: " + e))
                .map(String::toUpperCase)
                .peek(e->System.out.println("Mapped value: " + e))
                .collect(Collectors.toList());

forEach 不能修改自己包含的本地变量值，也不能用 break/return 之类的关键字提前结束循环。

findFirst

这是一个 Terminal 兼 short-circuiting 操作，它总是返回 Stream 的第一个元素，或者空。

这里比较重点的是它的返回值类型：Optional。这也是一个模仿 Scala 语言中的概念，作为一个容器，它可能含有某值，或者不包含。使用它的目的是尽可能避免 NullPointerException。

Optional 的用例

        String strA = "abcd",strB = null;
        print(strA);
        print(strB);
    
    public static void print(String text){
        //java 8
        Optional.ofNullable(text).ifPresent(System.out::println);
        //java 8 之前
        if (text!=null){
            System.out.println(text);
        }
    }

在更加复杂的 if（XX != null）的情况中，使用 Optional 代码的可读性更好，而且它提供的是编译时检查，能极大的降低 NPE 这种 Runtime Exception 对程序的影响，或者强迫使程序员更早的在编译阶段处理空值问题，而不是留到运行时再发现和调试。

Stream 中的 findAny、Max/Min、reduce等方法都返回 Optional 值。还有例如 IntStream.average( ) 返回 OptionDouble 等。

reduce

这个方法主要作用是把 Stream 元素组合起来。它提供了起始值（种子），然后依照运算规则（BinaryOperator），和前面的 Stream 的第一个、第二个、第 n 个元素组合。从这个意义上说，字符串拼接、数值的 sum、min、max、average 都是特殊的 reduce。例如 Stream的 sum 就相当于

Integer sum = integers.reduce(0, (a, b) -> a+b); 
或
Integer sum = integers.reduce(0, Integer::sum);

也有没有起始值的情况，这时就会把 Stream 的前面两个元素组合起来，返回的是 Optional。

reduce用例：

//1、字符串拼接
String str = Stream.of("A", "B", "C", "D").reduce("",String::concat);
//2、求最小值
double minValue = Stream.of(-1.5, 1.0, -3.0, -2.0).reduce(Double.MAX_VALUE,Double::min);
//3、求和（有无起始值情况）
int sumValue = Stream.of(1, 2, 3, 4).reduce(0,Integer::sum);

sumValue = Stream.of(1, 2, 3, 4).reduce(Integer::sum).get();
//4、过滤，字符串拼接
str = Stream.of("a", "B", "c", "D", "e", "F").filter(s->s.compareTo("Z")>0).reduce("",String::concat);

上面代码例如第一个示例的 reduce()，第一个参数（空白字符）即为起始值，第二个参数（String::concat）为 BinaryOperator。这类有起始值的 reduce() 都返回具体的对象。而对于第四个示例没有起始值的 reduce()，由于可能没有足够的元素，返回的是 Optional，请留意这个区别。

limit/skip

limit 返回的是 Stream 前面的 n 个元素；skip 则是扔掉前 n 个元素（它是由一个叫 subStream 的方法改名而来）

limit 和 skip 对运行次数的影响

List<Person> persons = new ArrayList<>();
for (int i = 0; i <= 10000 ; i++) {
     Person person = new Person(i,"name"+i);
     persons.add(person);
}

List<String> personList = persons.stream()
    .map(person -> person.getName())
    .limit(10).skip(3)
    .collect(Collectors.toList()); 
System.out.println(personList);

结果为：

这是一个有 10，000 个元素的 Stream，但在 short-circuiting 操作 limit 和 skip 的作用下，管道中 map 操作指定的 getName() 方法的执行次数为 limit 所限定的 10 次，而最终返回结果在跳过前 3 个元素后只有后面 7 个返回。

有一种情况是 limit/skip 无法达到 short-circuiting 目的的，就是把它们放在 Stream 排序操作的后面，原因跟 sorted 这个 Intermediate 操作有关：此时系统并不知道 Stream 排序后的次序如何，所以 sorted 中的操作看上去就像完全没有被 limit 和 skip 一样。

 List<Person> persons1 = new ArrayList<>();
        for (int i = 1; i <= 5 ; i++) {
            Person person = new Person(i,"name"+i);
            persons.add(person);
        }

List<Person> personList1 = persons1.stream()
    .sorted(Comparator.comparing(Person::getName))
    .limit(2).collect(Collectors.toList());

 

最后有一点需要注意的是，对于一个 parallel 的 Stream 管道来说，如果其元素是有序的，那么 limit 操作的成本会比较大，因为它的返回对象必须是前 n 个也有一样次序的元素。取而代之的策略是取消元素的次序，或者不要用 parallel Stream。

sorted

对于 Stream 的排序通过 sorted 进行，它比数组的排序更强之处在于你可以首先对 Stream 进行各类 map、filter、limit、skip甚至是 distinct 来减少元素数量后，再排序，这能帮助程序明显缩短执行时间。

List<Person> persons1 = new ArrayList<>();
        for (int i = 1; i <= 5 ; i++) {
            Person person = new Person(i,"name"+i);
            persons1.add(person);
        }

List<Person> personList2 =persons1.stream().limit(2)
    .sorted(Comparator.comparing(Person::getName))
    .collect(Collectors.toList());
System.out.println(personList2);

这样会使结果简单许多

但是，这种优化是有 business logic 上的局限性的：即不要求排序后再取值。

min/max/distinct

min 和 max 的功能也可以通过对 Stream 元素先排序，然后再通过 findFirst 来实现，但是前者的性能会更好，为 O(n) ，而sorted 的成本为 O(n log n)。同时它们作为特殊的 reduce 方法被独立出来也是因为求最大最小是很常见的。

找出最长一行的长度

 BufferedReader br = new BufferedReader(new FileReader("c:\\Install.log"));
 int longestLine = br.lines().mapToInt(String::length).max().getAsInt();
 br.close();
 System.out.println(longestLine);

利用 distinct 找出不重复的单词，转小写并排序

List<String> words = br.lines()
                .flatMap(line->Stream.of(line.split(" ")))
                .filter(word->word.length()>0)
                .map(String::toLowerCase)
                .distinct().sorted().collect(Collectors.toList());

Match

Stream 有三个 match 方法，从语义上说：

• allMatch：Stream 中全部元素符合传入的 predicate ，返回 true
• anyMatch：Stream 中只要有一个元素符合传入的 predicate，返回 true
• noneMatch：Stream 中没有一个元素符合传入的 predicate，返回 true

它们都是不需要遍历全部元素才能返回结果。例如 allMatch 只要一个元素不满足条件，就 skip 剩下的所有元素，返回 false。

        List<Person> persons = new ArrayList<>();
        persons.add(new Person(1,"name"+1,10));
        persons.add(new Person(2, "name" + 2, 21));
        persons.add(new Person(3, "name" + 3, 34));
        persons.add(new Person(4, "name" + 4, 6));
        persons.add(new Person(5, "name" + 5, 55));

        boolean isAllAdult = persons.stream().allMatch(p->p.getAge()>18);
        System.out.println("All are adult? " + isAllAdult);
        boolean isThereAnyChildren = persons.stream().anyMatch(p->p.getAge()<12);
        System.out.println("Any child? " +isThereAnyChildren);

3、进阶：自己生成流

Stream.generate

通过实现 Supplier 借口，你可以自己来控制流的生成。这种情形通常用于随机数、常量的 Stream。或者需要前后元素间维持着某种状态信息的 Stream 。把 Supplier 实例传递给 Stream.generate( ) 生成的 Stream，默认是串行无序的。由于是无限的，在管道中，必须利用 limit 之类的操作限制 Stream 的大小。

生成 10 个随机整数

 Random seed = new Random();
 Supplier<Integer> random = seed::nextInt;
 Stream.generate(random).limit(10).forEach(System.out::println);
 //Another way
 IntStream.generate(()->(int)(System.nanoTime()%100))
                        .limit(10).forEach(System.out::println);

Stream.generate( ) 还接受自己的实现的 Supplier。例如在构造海量测试数据的时候，用某种自动的规则给每一个变量赋值；或者依据公式计算 Stream 的每个元素值。这些都是维持状态信息的情形。

 自实现 Supplier

Stream.generate(new PersonSupplier()).limit(10)
    .forEach(p-> System.out.println(p.getName()+" "+p.getAge()));

private static class PersonSupplier implements Supplier<Person> {
        private int index = 0;
        private Random random = new Random();
        @Override
        public Person get() {
            return new Person(index++, "StormTestUser" + index, random.nextInt(100));
        }
}

Stream.iterate

iterate 跟 reduce 操作很像，接受一个种子值，和一个 UnaryOperator（例如 f）。然后种子值成为 Stream 的第一个元素。f(seed) 为第二个，f(f(seed)) 第三个，以此类推。

生成一个等差数列

Stream.iterate(0,n->n+3).limit(10).forEach(x-> System.out.print(x+" "));

与 Stream.generate 相仿，在 iterate 时候管道必须有 limit 这样的操作来限制 Stream 大小。

4、进阶：用 Collectors 来进行 reduction 操作

java.util.stream.Collectors 类的主要作用就是辅助进行各类有用的 reduction 操作，例如转变输出为 Collection，把 Stream 元素进行归组。

groupingBy/partitioningBy

按照年龄归组 

Map<Integer,List<Person>> personGroups = Stream.generate(new PersonSupplier()).limit(100)
                                                        .collect(Collectors.groupingBy(Person::getAge));
Iterator iterator = personGroups.entrySet().iterator();
while (iterator.hasNext()){
       Map.Entry<Integer,List<Person>> personsMap = (Map.Entry<Integer, List<Person>>) iterator.next();
       System.out.println("Age: "+personsMap.getKey()+" = "+personsMap.getValue().size());
}

上面的 code 中，首先生成 100 人信息，然后按照年龄归组，相同年龄的人放到同一个 list 中，输出如下：

按照未成年人和成年人归类

Map<Boolean,List<Person>> children = Stream.generate(new PersonSupplier()).limit(100)
                .collect(Collectors.partitioningBy(p->p.getAge()<18));
System.out.println("children number: "+children.get(true).size());
System.out.println("adult number: "+children.get(false).size());

在使用条件“年龄小于 18”进行分组后可以看到，不到 18 岁的未成年人是一组，成年人是另外一组。partitioningBy 其实是一种特殊的 groupingBy，它依照条件测试的是否两种结果来构造返回的数据结构，get(true) 和 get(false) 能即为全部的元素对象。

 

 

转载：https://www.ibm.com/developerworks/cn/java/j-lo-java8streamapi/index.html#icomments