【廖雪峰python教程学习】——（三）高级特性：列表生成式、生成器、迭代器

接上一篇高级特性——切片和迭代

---

一、列表生成式

列表生成式即List Comprehensions，是Python内置的非常简单却强大的可以用来创建list的生成式。

1.列表生成式的基本使用

1.用list(range(1,11))生成list: [1, 2, 3, 4, 5, 6, 7, 8, 9, 10]

>>> list(range(1,11))
[1, 2, 3, 4, 5, 6, 7, 8, 9, 10]

2.用列表生成式生成[1x1, 2x2, 3x3, ..., 10x10]

>>> [x * x for x in range(1,11)]
[1, 4, 9, 16, 25, 36, 49, 64, 81, 100]

for循环后面还可以加上if判断，这样我们就可以筛选出仅偶数的平方

>>> [x * x for x in range(1,11) if x % 2 == 0]
[4, 16, 36, 64, 100]

使用两层循环生成全排列

>>> [m + n for m in 'ABC' for n in 'XYZ']
['AX', 'AY', 'AZ', 'BX', 'BY', 'BZ', 'CX', 'CY', 'CZ']

运用列表生成式，可以写出很简洁的代码。列出当前目录下的所有文件和目录名，可以通过一行代码实现：

>>> import os # 导入os模块，模块的概念后面讲到
>>> [d for d in os.listdir('.')] # os.listdir可以列出文件和目录
['.emacs.d', '.ssh', '.Trash', 'Adlm', 'Applications', 'Desktop', 'Documents', 'Downloads', 'Library', 'Movies', 'Music', 'Pictures', 'Public', 'VirtualBox VMs', 'Workspace', 'XCode']

for循环可以同时使用两个或多个变量，因此列表生成式也可以使用两个变量来生成list：

>>> d = {'x':'A','y':'S', 'z':'C'}
>>> [k + '=' + v for k, v in d.items()]
['x=A', 'y=S', 'z=C']

把一个list中所有的字符串变成小写

>>> L = ['Hello', 'World', 'IBM', 'Apple']
>>> [s.lower() for s in L]
['hello', 'world', 'ibm', 'apple']

2.列表表达式中的if … else

跟在for后面的if是一个筛选条件，不能带else

>>> [x for x in range(1, 11) if x % 2 == 0 else 0]
  File "<stdin>", line 1
    [x for x in range(1, 11) if x % 2 == 0 else 0]
                                           ^
SyntaxError: invalid syntax

把if写在for前面必须加else，否则报错；

>>> [x if x % 2 == 0 for x in range(1, 11)]
  File "<stdin>", line 1
    [x if x % 2 == 0 for x in range(1, 11)]
                       ^
SyntaxError: invalid syntax

因为for前面是一个表达式，必须根据x计算出一个结果，所以必须加上else

>>> [x if x % 2 == 0 else -x for x in range(1, 11)]
[-1, 2, -3, 4, -5, 6, -7, 8, -9, 10]

可见，在一个列表生成式中，for前面的if ... else是表达式，而for后面的if是过滤条件，不能带else。

3.练习：使列表中字符串变成小写

如果list中既包含字符串，又包含整数，由于非字符串类型没有lower()方法，所以列表生成式会报错：

>>> L = ['Hello', 'World', 18, 'Apple', None]
>>> [s.lower() for s in L]
Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
  File "<stdin>", line 1, in <listcomp>
AttributeError: 'int' object has no attribute 'lower'

使用内建的isinstance函数可以判断一个变量是不是字符串：

>>> x = 'abc'
>>> y = 123
>>> isinstance(x, str)
True
>>> isinstance(y, str)
False

请修改列表生成式，通过添加if语句保证列表生成式能正确地执行：

L1 = ['Hello', 'World', 18, 'Apple', None]
#考虑新建一个列表筛选出字符串元素组成一个新列表再小写
L3 = []
for i in L1:
    if isinstance(i, str):
        L3.append(i)
L2 = [s.lower() for s in L3]

# 直接利用列表生成式在for后边设置if进行条件过滤
L2 = [s.lower() for s in L1 if isinstance(s, str)]

二、生成器

通过列表生成式，我们可以直接创建一个列表。但是，受到内存限制，列表容量肯定是有限的。而且，创建一个包含100万个元素的列表，不仅占用很大的存储空间，如果我们仅仅需要访问前面几个元素，那后面绝大多数元素占用的空间都白白浪费了。

所以，如果列表元素可以按照某种算法推算出来，那我们是否可以在循环的过程中不断推算出后续的元素呢？这样就不必创建完整的list，从而节省大量的空间。在Python中，这种一边循环一边计算的机制，称为生成器：generator

1.创建generator的方法

方法一：
只要把一个列表生成式的[]改成()，就创建了一个generator：

>>> L = [x * x for x in range(10)]
>>> L # L作为一个list可以直接打印每一个元素
[0, 1, 4, 9, 16, 25, 36, 49, 64, 81]
>>> g = (x * x for x in range(10)) #g是一个生成器
>>> g
<generator object <genexpr> at 0x1022ef630>

因为generator也是可迭代对象，所以使用for循环，打印出generator的每一个元素

>>> g = (x * x for x in range(10))
>>> for n in g:
...     print(n)
... 
0
1
4
9
16
25
36
49
64
81

2.用函数实现生成器

如果推算的算法比较复杂，用类似列表生成式的for循环无法实现的时候，还可以用函数来实现。

比如，著名的斐波拉契数列（Fibonacci），除第一个和第二个数外，任意一个数都可由前两个数相加得到：
1, 1, 2, 3, 5, 8, 13, 21, 34, …

#用函数打印斐波拉契数列
def fib(max):
#上面的函数可以输出斐波那契数列的前max个数：
    n, a, b = 0, 0, 1
    while n < max:
        print(b)
        a, b = b, a + b # t = (a, a + b) a = t[0] b = t[1]
        n = n + 1
    return 'done'

方法二：
要把fib函数变成generator函数，只需要把print(b)改为yield b就可以了：

def fib(max):
    n, a, b = 0, 0, 1
    while n < max:
        yield b
        a, b = b, a + b
        n = n + 1
    return 'done'

如果一个函数定义中包含yield关键字，那么这个函数就不再是一个普通函数，而是一个generator函数，调用一个generator函数将返回一个generator：

>>> f = fib(6)
>>> f
<generator object fib at 0x104feaaa0>

generator函数和普通函数的执行流程不一样。普通函数是顺序执行，遇到return语句或者最后一行函数语句就返回。
而变成generator的函数，在每次调用next()的时候执行，遇到yield语句返回，再次执行时从上次返回的yield语句处继续执行。

调用generator函数会创建一个generator对象，多次调用generator函数会创建多个相互独立的generator。 正确的写法是创建一个generator对象，然后不断对这一个generator对象调用next()。

3.for循环调用generator时，拿到返回值

但是用for循环调用generator时，发现拿不到generator的return语句的返回值。因为调用一次就在yield被打断一次。

def fib(max):
    n, a, b = 0, 0, 1
    while n < max:
        yield b
        a, b = b, a + b
        n = n + 1
    return 'done'
    
>>> for n in fib(6):
...     print(n)
...
1
1
2
3
5
8

如果想要拿到返回值，必须捕获StopIteration错误，返回值包含在StopIteration的value中

>>> g = fib(6)
>>> while True:
...     try:
...         x = next(g)
...         print('g:', x)
...     except StopIteration as e:
...         print('Generator return value:', e.value)
...         break
...
g: 1
g: 1
g: 2
g: 3
g: 5
g: 8
Generator return value: done

4.练习：杨辉三角问题

利用生成器解决杨辉三角问题，把每一行看做一个list，试写一个generator，不断输出下一行的list

参考大佬提出的简单结局方法！
# -*- coding: utf-8 -*-
# 即第n+1行的第i个数等于第n行的第i-1个数和第i个数之和，这也是组合数的性质之一。
# 即 C(n+1,i)=C(n,i)+C(n,i-1)

def triangles():
    # 初始化一个列表作为第一排输出
    L = [1]
    while True:
        yield L
        # 列表可以直接相加，这里添零保证计算第n行时其上一行是n+1个元素（形成一个倒三角形），方便加法运算
        X = [0] + L
        Y = L + [0]
        L = [X[i] + Y[i] for i in range(len(X))] #列表生成式

测试

# 期待输出:
# [1]
# [1, 1]
# [1, 2, 1]
# [1, 3, 3, 1]
# [1, 4, 6, 4, 1]
# [1, 5, 10, 10, 5, 1]
# [1, 6, 15, 20, 15, 6, 1]
# [1, 7, 21, 35, 35, 21, 7, 1]
# [1, 8, 28, 56, 70, 56, 28, 8, 1]
# [1, 9, 36, 84, 126, 126, 84, 36, 9, 1]
n = 0
results = []
for t in triangles():
    results.append(t)
    n = n + 1
    if n == 10:
        break

for t in results:
    print(t)

if results == [
    [1],
    [1, 1],
    [1, 2, 1],
    [1, 3, 3, 1],
    [1, 4, 6, 4, 1],
    [1, 5, 10, 10, 5, 1],
    [1, 6, 15, 20, 15, 6, 1],
    [1, 7, 21, 35, 35, 21, 7, 1],
    [1, 8, 28, 56, 70, 56, 28, 8, 1],
    [1, 9, 36, 84, 126, 126, 84, 36, 9, 1]
]:
    print('测试通过!')
else:
    print('测试失败!')

三、迭代器

可以直接作用于for循环的数据类型有以下几种：
一类是集合数据类型，如list、tuple、dict、set、str等；
一类是generator，包括生成器和带yield的generator function。

可以直接作用于for循环的对象统称为可迭代对象：Iterable

生成器与迭代器

生成器：不但可以作用于for循环，还可以被next()函数不断调用并返回下一个值，直到最后抛出StopIteration错误表示无法继续返回下一个值了
迭代器：可以被next()函数调用并不断返回下一个值的对象称为迭代器：Iterator
可以使用isinstance()判断一个对象是否是Iterator对象：

>>> from collections.abc import Iterator
>>> isinstance((x for x in range(10)), Iterator)
True #生成器都是Iterator对象
# list、dict、str虽然是Iterable，但不是Iterator
>>> isinstance([], Iterator)
False
>>> isinstance({}, Iterator)
False	
>>> isinstance('abc', Iterator)
False		

你可能会问，为什么list、dict、str等数据类型不是Iterator？
这是因为Python的Iterator对象表示的是一个数据流，Iterator对象可以被next()函数调用并不断返回下一个数据，直到没有数据时抛出StopIteration错误。

可以把这个数据流看做是一个有序序列，但我们却不能提前知道序列的长度，只能不断通过next()函数实现按需计算下一个数据，所以Iterator的计算是惰性的，只有在需要返回下一个数据时它才会计算。

使用iter()函数可以把 list、dict、str 等可迭代对象变成Iterator：

>>> isinstance(iter([]),Iterator)
True
>>> isinstance(iter(['abc']),Iterator)
True

小结

凡是可作用于for循环的对象都是Iterable类型；
凡是可作用于next()函数的对象都是Iterator类型，它们表示一个惰性计算的序列；
集合数据类型如list、dict、str等是Iterable但不是Iterator，不过可以通过iter()函数获得一个Iterator对象。