Python生成器的使用技巧详解

作者:酱油哥,清华大学计算机硕士,泰康资管/军工央企职场经历。

0.本集概览

1.生成器可以避免一次性生成整个列表 

2.生成器函数的运行过程解析及状态保存 

3.生成器表达式的使用方法 

4.生成器表达式的可迭代特性

之前我们介绍了列表解析式,他的优点很多,比如运行速度快、编写简单,但是有一点我们不要忘了,他是一次性生成整个列表。如果整个列表非常大,这对内存也同样会造成很大压力,想要实现内存的节约,可以将列表解析式转换为生成器表达式。

今天这一集,就单聊生成器。

1.避免一次性生成整个列表

避免一次性生成整个结果列表的本质是在需要的时候才逐次产生结果,而不是立即产生全部的结果,Python中有两种语言结构可以实现这种思路。

一个是生成器函数。外表看上去像是一个函数,但是没有用return语句一次性的返回整个结果对象列表,取而代之的是使用yield语句一次返回一个结果。

另一个是生成器表达式。类似于上一小节的列表解析,但是方括号换成了圆括号,他们返回按需产生的一个结果对象,而不是构建一个结果列表。

这个“按需”指的是在迭代的环境中,每次迭代按需产生一个对象,因此,上述二者都不会一次性构建整个列表,从而节约了内存空间。

2.生成器函数

下面具体结合例子说说生成器函数。

2.1.运行过程分析

首先,我们还没有详细介绍过函数,先简单说一下,常规函数接受输入的参数然后立即送回单个结果,之后这个函数调用就结束了。

但生成器函数却不同,他通过yield关键字返回一个值后,还能从其退出的地方继续运行,因此可以随时间产生一系列的值。他们自动实现了迭代协议,并且可以出现在迭代环境中。

运行的过程是这样的:生成器函数返回一个迭代器,for循环等迭代环境对这个迭代器不断调用next函数,不断的运行到下一个yield语句,逐一取得每一个返回值,直到没有yield语句可以运行,最终引发StopIteration异常。看,这个过程是不是很熟悉。

首先,下面这个例子证实了生成器函数返回的是一个迭代器 代码片段:

  1. def gen_squares(num):

  2.    for x in range(num):

  3.        yield x ** 2

  4. G = gen_squares(5)

  5. print(G)

  6. print(iter(G))

运行结果:

  1. <generator object gen_squares at 0x0000000002402558>

  2. <generator object gen_squares at 0x0000000002402558>

然后再用手动模拟循环的方式来看看生成器函数的运行过程,你会发现和前面介绍过的熟悉场景并无二致。 代码片段:

  1. def gen_squares(num):

  2.    for x in range(num):

  3.        yield x ** 2

  4. G = gen_squares(3)

  5. print(G)

  6. print(iter(G))

  7. print(next(G))

  8. print(next(G))

  9. print(next(G))

  10. print(next(G))

运行结果:

  1. <generator object gen_squares at 0x00000000021C2558>

  2. <generator object gen_squares at 0x00000000021C2558>

  3. 0

  4. 1

  5. 4

  6. Traceback (most recent call last):

  7. File "E:/12homework/12homework.py", line 10, in <module>

  8. print(next(G))

  9. StopIteration

那这么看,在for循环等真正的使用场景中使用也不难了 代码片段:

  1. def gen_squares(num):

  2.    for x in range(num):

  3.        yield x ** 2

  4. for i in gen_squares(5):

  5.    print(i, end=' ')

运行结果:

  1. 0 1 4 9 16

2.2.状态保存

我们进一步来说说生成器函数里状态保存的话题。在每次循环的时候,生成器函数都会在yield处产生一个值,并将其返回给调用者,即for循环。然后在yield处保存内部状态,并挂起中断退出。在下一轮迭代调用时,从yield的地方继续执行,并且沿用上一轮的函数内部变量的状态,直到内部循环过程结束。

关于这个问题,具体可以看看这个例子: 

代码片段:

  1. def gen_squares(num):

  2.    for x in range(num):

  3.        yield x ** 2

  4.        print('x={}'.format(x))

  5. for i in gen_squares(4):

  6.    print('x ** 2={}'.format(i))

  7.    print('--------------')

运行结果:

  1. x ** 2=0

  2. --------------

  3. x=0

  4. x ** 2=1

  5. --------------

  6. x=1

  7. x ** 2=4

  8. --------------

  9. x=2

  10. x ** 2=9

  11. --------------

  12. x=3

我们不难发现,生成器函数计算出x的平方后就挂起退出了,但他仍然保存了此时x的值,而yield后的print语句会在for循环的下一轮迭代中首先调用,此时x的值即是上一轮退出时保存的值。

3.生成器表达式

再说说生成器表达式吧。

3.1.使用方法

列表解析式已经是一个不错的选择,从内存使用的角度而言,生成器更优,因为他不用一次性生成整个对象列表,这二者之间如何转化呢?

生成器表达式写法上很像列表解析式,但是外面的方括号换成了圆括号,结果大不同,简单的看看: 代码片段:

  1. print([x ** 2 for x in range(5)])

  2. print((x ** 2 for x in range(5)))

运行结果:

  1. [0, 1, 4, 9, 16]

  2. <generator object <genexpr> at 0x0000000002212558>

方括号是熟悉的列表解析式,一次性返回整个列表,圆括号是生成器表达式,返回一个生成器对象,而不是一次性生成整个列表

3.2.适用于迭代环境

同时他支持迭代协议,适用于所有的迭代环境,略举几个例子: 代码片段:

  1. for x in (x ** 2 for x in range(5)):

  2.    print(x, end=',')

运行结果:

  1. 0,1,4,9,16,

代码片段:

  1. print(sum(x ** 2 for x in range(5)))

运行结果:

  1. 30

代码片段:

  1. print(sorted((x ** 2 for x in range(5)), reverse=True))

运行结果:

  1. [16, 9, 4, 1, 0]

代码片段:

  1. print(list(x ** 2 for x in range(5)))

运行结果:

  1. [0, 1, 4, 9, 16]

3.3.集合解析式与生成器对象

集合解析式等效于将生成器对象传入到list、set、dict等函数中作为构造参数 代码片段:

  1. set(f(x) for x in S if P(x))

  2. {f(x) for x in S if P(x)}

  3. {key:val for (key, val) in zip(keys, vals)}

  4. dict(zip(keys, vals))

  5. {x:f(x) for x in items}

  6. dict((x, f(x)) for x in items)


本文为作者酱油哥(清华大学计算机硕士,泰康资管/军工央企职场经历原创编写的Python编程语言核心基础》小册子中的一篇文章,小册共分12小节。点击下面进入小册子,原创不易,欢迎订阅:

小册目录

第1节:深入剖析 Python 容器的使用方法

第2节:循环迭代与容器遍历用法解析

第3节:详解字符串常见用法

第4节:Python字符编码深入剖析及应用举例

第5节:Python文件操作用法探讨

第6节:Python 动态类型与对象拷贝机制分析

第7节:理顺可迭代对象、迭代器与迭代环境

第8节:生成器的使用技巧详解

第9节:函数的基本特征与变量作用域

第10节:函数参数的传递、修改、匹配与解包过程全解析

第11节:函数闭包与装饰器用法详解

第12节:异常的处理方式


640?wx_fmt=gif

Python中文社区作为一个去中心化的全球技术社区,以成为全球20万Python中文开发者的精神部落为愿景,目前覆盖各大主流媒体和协作平台,与阿里、腾讯、百度、微软、亚马逊、开源中国、CSDN等业界知名公司和技术社区建立了广泛的联系,拥有来自十多个国家和地区数万名登记会员,会员来自以公安部、工信部、清华大学、北京大学、北京邮电大学、中国人民银行、中科院、中金、华为、BAT、谷歌、微软等为代表的政府机关、科研单位、金融机构以及海内外知名公司,全平台近20万开发者关注。

640?wx_fmt=jpeg

▼ 点击下方阅读原文免费成为社区会员

阅读更多
换一批

没有更多推荐了,返回首页