一 列表生成式
现在有个需求,列表[0, 1, 2, 3, 4, 5, 6, 7, 8, 9],要求你把列表里的每个值加1,你怎么实现?你可能会想到2种方式
>>> a = [0,1,2,3,4,5,6,7,8,9] >>> b = [] >>> a [0, 1, 2, 3, 4, 5, 6, 7, 8, 9] >>> for i in a:b.append(i+1) ... >>> b [1, 2, 3, 4, 5, 6, 7, 8, 9, 10] >>> a [0, 1, 2, 3, 4, 5, 6, 7, 8, 9]
a = [0,1,2,3,4,5,6] for index,line in enumerate(a): a[index] += 1 print(a) 修改原值
>>> a [0, 1, 2, 3, 4, 5, 6, 7, 8, 9] >>> a = map(lambda x:x+1,a) >>> a <map object at 0x04F21970> >>> for i in a:print(i) ... 1 2 3 4 5 6 7 8 9 10
还有一种写法
>>> a = [i+1 for i in range(10)] >>> a [1, 2, 3, 4, 5, 6, 7, 8, 9, 10]
这是列表生成
二 生成器
通过列表生成式,我们可以直接创建一个列表,但是,受到内存的限制,列表容量肯定是有限的,而且,创建一个包含100万个元素的列表,不仅占用很大存储空间,如果我们仅仅需要访问
前面几个元素,那么后面绝大多数元素占用的空间都白白浪费了。
所以,如果列表元素可以按照某种算法推算出来,那我们是否可以在循环的过程中不断推算出后续元素呢?这样就不用创建完成的list,从而节省大量的空间。Python中,这种一边循环一边计算的机制,称为生成器:generator
要创建一个generator,有很多种方法,第一种方法很简单,只要把一个列表生成式的【】改成(),就创建了一个generator
>>> L [0, 1, 4, 9, 16] >>> g = (x * x for x in range(5)) >>> g <generator object <genexpr> at 0x04F29420>
创建L和g的区别仅在于最外层的【】和(),L是一个list,而g是一个generator.
我们可以直接打印出来list的每一个元素,但我们怎么打印出generator的每一个元素呢?
如果要一个一个打印出来,可以通过next()函数获得generator的下一个返回值:
>>> next(g) 0 >>> next(g) 1 >>> next(g) 4 >>> next(g) 9 >>> next(g) 16 >>> next(g)
generator保存的是算法,每次调用next(g) ,就计算出g的下一个元素的值,知道计算到最后一个元素,没有更多元素时抛出StopIteration的错误。
上面这种不断调用next(g)
实在是太变态了,正确的方法是使用for
循环,因为generator也是可迭代对象:
>>> g = (x * x for x in range(5)) >>> g <generator object <genexpr> at 0x04F29450> >>> for i in g: ... print(i) ... 0 1 4 9 16
所以,我们创建一个generator后,基本上永远不会调用next(),而是通过for循环来迭代它,并且不需要关心StopIteration的错误。
generator非常强大。如果推算的算法比较复杂,用类似列表生成式的for循环无法实现的时候,还可以用函数来实现。
比如,著名的斐波那契数列,除第一个和第二个数外,任意一个数都可由前两个数相加得到:
1,1,2,3,5,8,13,21,34,...
斐波那契数列用列表生成式写不出来,但是,用函数把它打印出来却很容易:
def fib(max): n,a,b = 0,0,1 while n < max: print(b) a,b = b,a+b n = n+1 return "done"
fib(10)
上面的函数可以i输出斐波那契数列的前N个数,可以看出,fib函数实际上是定义了斐波那契数列的推算规则,可以从第一个元素开始,推算出后续任意的元素,这种逻辑其实非常类似generator。
也就是说,上面的函数和generator仅一步之遥。要把fib函数变成generator,只需要把print(b)改为yield b就可以了
def fib(max): n,a,b = 0,0,1 while n < max: #print(b) yield b a,b = b,a+b n = n+1 return "done"
这就是定义generator的另一种方法。如果一个函数中包含yield关键字,那么这个函数就不再是普通函数,而是一个generator.
f = fib(10) print(f) #输出 <generator object fib at 0x050B54B0>
这里,最难理解的就是generator和函数的执行流程不一样,函数是顺序执行,遇到return语句或者最后一行函数语句就返回。
而generator,在每次调用next()的时候执行,遇到yield语句就返回,再次执行时从上次返回的yield语句处继续执行。
f = fib(10) print(f) print(f.__next__()) print(f.__next__()) print(f.__next__()) print("干点别的事") print(f.__next__()) print(f.__next__()) #输出 <generator object fib at 0x055254E0> 1 1 2 干点别的事 3 5
在上面fib的例子,我们在循环过程中不断调用yield,就会不断中断。当然要给循环设置一个条件退出循环,不然就会产生一个无限数列出来。
同样的,把函数改成generator后,我们基本上从来不会用next()来获取下一个返回值,而是直接使用for循环来迭代:
for i in fib(10): print(i)
但是用for循环调用generator时,发现拿不到generator的return语句的返回值。如果想要拿到返回值,必须捕获StopIteration,返回值包含在StopItreration的value中:
def fib(max): n,a,b = 0,0,1 while n < max: #print(b) yield b a,b = b,a+b n = n+1 return "done" g = fib(10) while True: try: x = next(g) print("g:",x) except StopIteration as e: print("Generator return value:",e.value) break #输出 g: 1 g: 1 g: 2 g: 3 g: 5 g: 8 g: 13 g: 21 g: 34 g: 55
Generator return value: done
三 生成器并行运算
生成器执行原理
def consumer(name): print("%s 准备吃包子了!" % name) while True: baozi = yield print("包子[%s]来了,被[%s]吃了" % (baozi,name)) c = consumer("alex") c.__next__() c.__next__() c.__next__()
Pycharm调试结果:
第一步:生成一个生成器
第二步:执行第一个__next__()方法进入函数,执行到yield时中断,把返回值返回给baozi这个变量
第三步:开始执行下面的程序,也就是执行到了第二个__next__()方法,直接跳转到yield这边,继续上一次的中断往下执行,这样就执行了yield下面的程序,当再次执行到yield关键字时,则继续中断,并且把返回值赋给baozi关键字,如果下面没有其他程序,则程序结束。
小结:
1. 用yield做生成器,想把什么返回到外面,就把yield关键字放在那里。
2. yield其实是保留了函数的中断状态,返回当前的值。
3. 如果yield没有返回值,就返回一个空值None。
send()方法和__next__()方法的区别
def consumer(name): print("%s 准备吃包子了!" % name) while True: baozi = yield print("包子[%s]来了,被[%s]吃了" % (baozi,name)) c = consumer("alex") c.__next__() #不适用__next__()方法会报错 b1 = "韭菜馅" c.send(b1) #调用yield,同时给yield传一个值 b2 = "大蒜馅" c.send(b2) #输出 alex 准备吃包子了! 包子[韭菜馅]来了,被[alex]吃了 包子[大蒜馅]来了,被[alex]吃了
从上面可以看出send()方法和__next__()方法的区别:
1. __next__()只是调用这个yield,也可以说成是唤醒yield,但是不会给yield传值
2. send()调用yield或者说唤醒yield的同时,也会给yield传一个值
3. 使用send()函数之前必须使用__next__(),因为先要中断,当第二次调用时,才可传值
为什么给消费者传值时,必须先执行__next__()方法?
因为如果不执行一个__next__()方法,只是把函数变成一个生成器,只有调用__next__方法,才能走到第一个yield然后就返回了,调用下一个send()传值时,才会发包子。
yield实现并行效果
通过yield实现在单线程的情况下实现并发运算的效果
import time def consumer(name): print("%s 准备吃包子了!" % name) while True: baozi = yield print("包子[%s]来了,被[%s]吃了" % (baozi,name)) def producer(name): c = consumer("A") c2 = consumer("B") c.__next__() c2.__next__() print("准备做包子啦!") for i in range(10): time.sleep(1) print("做一个包子,分凉拌") c.send(i) c2.send(i) producer("alex")
这个是生产者消费者模式,这个也就是后面协程的效果。
三 迭代器
我们已经知道,可以i直接作用于for循环的数据类型有以下几种:
一类是集合数据类型,如list, tuple , dict, set , str 等;
一类是generator , 包括生成器和带yield的generator function.
这些可以直接作用于for循坏的对象统称为可迭代对象:Iterable.
可以使用isinstance()判断一个对象是否是Iterable对象:
>>> from collections import Iterable >>> isinstance([],Iterable) True >>> isinstance({},Iterable) True >>> isinstance('abc',Iterable) True >>> isinstance((x for x in range(10)),Iterable) True >>> isinstance(100,Iterable) False >>> isinstance(100,int) True >>>
而生成器不但可以作用于for循环,还可以被next()函数不断调用并返回下一个值,直到最后抛出StopIteration错误表示无法继续返回一个值了。
*可以被next()函数调用并不断返回下一个值的对象成为迭代器:Tterator
可以使用isinstance()判断一个对象是否是Iterator对象:
>>> from collections import Iterator >>> isinstance((x for x in range(10)),Iterator) True >>> isinstance([],Iterator) False >>> isinstance("abc",Iterator) False >>> isinstance(map(lambda x:x+1,[0,1]),Iterator) True
生成器都是Iterator对象,但list ,dict,str虽然是Iterable,却不是Iterator。
把list ,dict ,str 等Iterable 变成 Iterator可以使用iter()函数:
>>> isinstance(iter([]),Iterator) True >>> isinstance(iter("abc"),Iterator) True
你可能会问,为什么list
、dict
、str
等数据类型不是Iterator
?
这是因为Python的Iterator对象表示的是一个数据流,Iterator对象可以被next()函数调用并不断返回下一个数据,直到没有数据时抛出StopIteration错误。可以把这个数据流看作是一个有序序列,但我们却不能提前知道序列的长度,只能不断通过next()函数实现按需计算下一个数据,所以Iterator计算是惰性的,只有在需要返回下一个数据时它才会计算。
Iterator甚至可以表示一个无线大的数据流,例如全体自然数。而使用list是永远不可能存储全体自然数的。
小结:
凡是可作用于for循环的对象都是Iterable类型;
凡是可作用于next() 函数的对象都是Iterator类型,它们表示一个惰性计算的序列;
集合数据类型如list , dict , str 等是Iterable但不是Iterator , 不过可以通过iter()函数获得一个Iterator对象。
Python 的for循环本质上就是通过不断调用next()函数实现的,例如:
>>> for x in [1,2,3,4,5]:
... pass
实际上完全等价于:
# 首先获得Iterator对象: it = iter([1,2,3,4,5]) #循环: while True: try: # 获得下一个值: x = next(it) except StopIteration: # 遇到StopIteration就退出循环 break