文章目录
生成器generator
我们有时候会利用列表解析式生成一个列表,如下所示的代码功能是生成一个10以内的奇数列表
print([i for i in range(10) if i % 2 == 1])
这里i for i in range(10)
生成的就是一个生成器generator,我们可以将其打印出来,如下代码示:
print(i for i in range(10))
# 结果
<generator object <genexpr> at 0x000002967560D6D0>
通过列表生成式,我们可以直接创建一个列表,但是,受到内存限制,列表容量肯定是有限的,而且创建一个包含100万个元素的列表,不仅占用很大的存储空间,如果我们仅仅需要访问前面几个元素,那后面绝大多数元素占用的空间都白白浪费了。
所以,如果列表元素可以按照某种算法推算出来,那我们是否可以在循环的过程中不断推算出后续的元素呢?这样就不必创建完整的list,从而节省大量的空间,在Python中,这种一边循环一边计算
的机制,称为生成器:generator
生成器是一个特殊的程序,可以被用作控制循环的迭代行为,python中生成器是迭代器
的一种,使用yield返回值函数,每次调用yield会暂停,而可以使用next()
函数和send()
函数恢复生成器。
生成器类似于返回值为数组的一个函数
,这个函数可以接受参数,可以被调用,但是,不同于一般的函数会一次性返回包括了所有数值的数组,生成器一次只能产生一个值
,这样消耗的内存数量将大大减小,而且允许调用函数可以很快的处理前几个返回值,因此生成器看起来像是一个函数,但是表现得却像是迭代器
创建generator
要创建一个generator,有很多种方法,第一种方法很简单,只有把一个列表生成式的[]中括号改为()小括号,就创建一个generator
alist = [x for x in range(10)]
print(alist)
#生成器
generator_ex = (x for x in range(10))
print(generator_ex)
[0, 1, 2, 3, 4, 5, 6, 7, 8, 9]
<generator object <genexpr> at 0x0000018B2DBBD660>
那么创建list和generator_ex 的区别是什么呢?从表面看就是[ ]和(),但是结果却不一样,一个打印出来是列表(因为是列表生成式),而第二个打印出来却是<generator object at 0x0000018B2DBBD660>,那么如何打印出来generator_ex的每一个元素呢?
如果要一个个打印出来,可以通过next()函数或者__next__()获得generator的下一个返回值:
generator_ex = (x for x in range(3))
print(next(generator_ex))
print(next(generator_ex))
print(generator_ex.__next__())
# 结果
0
1
2
# 如果调用4次next
print(next(generator_ex))
print(next(generator_ex))
print(generator_ex.__next__())
print(generator_ex.__next__())
# 结果
StopIteration
我们可以看到,generator保存的是算法,每次调用next(generaotr_ex)就计算出他的下一个元素的值,直到计算出最后一个元素,没有更多的元素时,抛出StopIteration
的错误,而且上面这样不断调用是一个不好的习惯,正确的方法是使用for循环,因为generator也是可迭代对象
:
generator_ex = (x for x in range(3))
for i in generator_ex:
print(i)
# 结果
0
1
2
所以我们创建一个generator后,基本上永远不会调用next(),而是通过for循环来迭代,并且不需要关心StopIteration的错误,generator非常强大,如果推算的算法比较复杂,用类似列表生成式的for循环无法实现的时候,还可以用函数来实现。
生成器函数
也是用def定义的,利用关键字yield一次性返回一个结果,阻塞,重新开始。下面我们用一个fibnacci数列的例子谈谈生成器函数的作用,代码如下所示:
#fibonacci数列
def fib(max):
n,a,b =0,0,1
while n < max:
a,b =b,a+b
n = n+1
print(a)
return 'done'
a = fib(10)
print(fib(10))
# 上面我们发现,print(b)每次函数运行都要打印,占内存,所以为了不占内存,
# 我们也可以使用生成器,这里叫yield
def fib(max):
n,a,b =0,0,1
while n < max:
yield b
a,b =b,a+b
n = n+1
return 'done'
a = fib(10)
print(fib(10))
这里说一下generator和函数的执行流程,函数是顺序执行的,遇到return语句或者最后一行函数语句就返回。而变成generator的函数,在每次调用next()的时候执行,遇到yield语句返回,再次被next()调用时候从上次的返回yield语句处急需执行,也就是用多少,取多少,不占内存。
通过yield在单线程的情况下实现并发运算
import time
def consumer(name):
print("%s 准备学习啦!" %name)
while True:
lesson = yield
print("开始[%s]了,[%s]老师来讲课了!" %(lesson,name))
def producer(name):
c = consumer('A')
c2 = consumer('B')
c.__next__()
c2.__next__()
print("同学们开始上课 了!")
for i in range(10):
time.sleep(1)
print("到了两个同学!")
c.send(i) # send的作用是唤醒并继续执行,发送一个信息到生成器内部
c2.send(i)
为什么叫生成器函数?因为它随着时间的推移生成了一个数值队列。一般的函数在执行完毕之后会返回一个值然后退出,但是生成器函数会自动挂起,然后重新拾起急需执行
,他会利用yield关键字关起函数,给调用者返回一个值,同时保留了当前的足够多的状态,可以使函数继续执行
,生成器和迭代协议是密切相关的,迭代器都有一个__next__()
成员方法,这个方法要么返回迭代的下一项,要买引起异常结束迭代。
yield总结:
(1)通常的for…in…循环中,in后面是一个数组,这个数组就是一个可迭代对象,类似的还有链表,字符串,文件。他可以是a = [1,2,3],也可以是a = [x*x for x in range(3)]。
它的缺点也很明显,就是所有数据都在内存里面,如果有海量的数据,将会非常耗内存。
(2)生成器是可以迭代的,但是只可以读取它一次。因为用的时候才生成,比如a = (x*x for x in range(3))。!!!注意这里是小括号而不是方括号。
(3)生成器(generator)能够迭代的关键是他有next()方法,工作原理就是通过重复调用next()方法,直到捕获一个异常
。
(4)带有yield的函数不再是一个普通的函数,而是一个生成器generator,可用于迭代
(5)yield是一个类似return 的关键字
,迭代一次遇到yield的时候就返回yield后面或者右面的值。而且下一次迭代的时候,从上一次迭代遇到的yield后面的代码开始执行
(6)yield就是return返回的一个值,并且记住这个返回的位置。下一次迭代就从这个位置开始。
(7)带有yield的函数不仅仅是只用于for循环,而且可用于某个函数的参数
,只要这个函数的参数也允许迭代参数。
(8)send()
和next()
的区别就在于send可传递参数给yield表达式
,这时候传递的参数就会作为yield表达式的值,而yield的参数是返回给调用者的值,也就是说send可以强行修改上一个yield表达式值
。
(9)send()和next()都有返回值
,他们的返回值是当前迭代遇到的yield的时候,yield后面表达式的值,其实就是当前迭代yield后面的参数
。
(10)第一次调用时候必须先next(),之后才能send(),否则会报错。在next()前调用send后之所以为None是因为这时候没有上一个yield,所以也可以认为next()等同于send(None)
生成器表达式
生成器表达式来源于迭代和列表解析的组合,生成器和列表解析类似,但是它使用()
而不是[ ]
list_comprehension = [x**2 for x in range(10)]
list_generator = (x**2 for x in range(10))
我们已经知道,可以直接作用于for循环的数据类型有以下几种:
- 一类是
集合数据类型
,如list,tuple,dict,set,str等 - 一类是
generator
,包括生成器和带yield的generator function
这些可以直接作用于for 循环的对象统称为可迭代对象Iterable
,可以使用isinstance()
判断一个对象是否是可Iterable对象
from collections import Iterable
list_comprehension = [x**2 for x in range(10)]
list_generator = (x**2 for x in range(10))
print(isinstance(list_comprehension , Iterable))
print(isinstance(list_generator , Iterable))
True
True
生成器不但可以作用于for循环,还可以被next()函数不断调用并返回下一个值,直到最后抛出StopIteration
错误表示无法继续返回下一个值了。
try:
for i in list_generator:
print(i)
except StopIteration:
pass
0
1
4
9
16
25
36
49
64
81
迭代器Iterator
迭代器是什么
一个实现了iter方法
的对象是可迭代的,一个实现next方
法并且是可迭代的对象是迭代器。可以被next()函数调用并不断返回下一个值的对象称为迭代器:Iterator
。所以一个实现了iter方法和next方法的对象就是迭代器。
可以使用isinstance()判断一个对象是否是Iterator对象。
list_comprehension = [x**2 for x in range(10)]
list_generator = (x**2 for x in range(10))
print(isinstance(list_comprehension, Iterable)) # True
print(isinstance(list_comprehension, Iterator)) # False
print(isinstance(list_generator, Iterable)) # True
print(isinstance(list_generator, Iterator)) # True
生成器都是Iterator对象
,但list、dict、str
虽然是Iterable(可迭代对象
),却不是
Iterator(迭代器)。
为什么list、dict、str等数据类型不是Iterator
这是因为Python的Iterator对象表示的是一个数据流
,Iterator对象可以被next()函数调用并不断返回下一个数据,直到没有数据时抛出StopIteration错误。可以把这个数据流看做是一个有序序列,但我们却不能提前知道序列的长度,只能不断通过next()函数实现按需计算下一个数据,所以Iterator的计算是惰性的
,只有在需要返回下一个数据时它才会计算。
Iterator甚至可以表示一个无限大的数据流,例如全体自然数。而使用list是永远不可能存储全体自然数的。list、dict、str等数据类型
在定义的时候已经分配了内存,而Iterator是在调用next()时临时分配的。
! 需要注意的是文件
既是可迭代对象,又是迭代器。
from collections import Iterator
from collections import Iterable
f = open('housing.csv')
print(isinstance(f,Iterator)) # True
print(isinstance(f,Iterable)) # True
Python3的for循环本质上就是通过不断调用next()函数实现的,例如:
for x in [1, 2, 3, 4, 5]:
pass
################ 实际上完全等价于 ##################
# 首先获得Iterator对象:
it = iter([1, 2, 3, 4, 5])
# 循环:
while True:
try:
# 获得下一个值:
x = next(it)
except StopIteration:
# 遇到StopIteration就退出循环
break
总结:
- 凡是可作用于for循环的对象都是Iterable类型;
- 凡是可作用于next()函数的对象都是Iterator类型,它们表示一个惰性计算的序列;
- 集合数据类型如list、dict、str等是Iterable但
不是Iterator
,不过可以通过iter()
函数获得一个Iterator对象。