python 迭代器对象_Python-可迭代对象,迭代器,生成器,序列

这几个玩意比较绕,虽然平时用起来一般没什么问题,但看一些文档的时候,什么iterable, iterator一不留神就傻傻分不清楚了

注: 下文代码里会使用两个内置模块

import itertools

import collections

基本概念

iterable: 可迭代对象,简单来说就是可以运行for i in obj而不报错的对象

iterator: 迭代器,是用来对可迭代对象进行迭代的一个工具。一般指实现了迭代器协议(即__iter__和next方法)的类实例,判断标准是assert isinstance(obj, collections.Iterator)

generator: 生成器,是一种迭代器,使用yield关键字实现。(此处仅作对比,不考虑生成器的其他用法)

sequence: 序列,指实现了序列协议的类实例,内置的包括: str, unicode, list, tuple, bytearray, buffer, xrange

iter(obj): 一个内置函数,可以返回传入obj对应的迭代器,这里要求obj必须实现了迭代器协议或序列协议。

详细解读

iterable 可迭代对象

首先是一个令人难受的消息,可迭代对象的判别标准,到现在都没有一个优雅的方式,我们只能说:

可以运行for i in obj不报错的,或者可以运行iter(obj)而不报错的,就是可迭代对象

这里面的逻辑是这样的: for i in obj里,会调用iter函数返回迭代器,然后使用迭代器进行迭代。iter函数会根据两个协议得到一个迭代器返回,两个协议如下:

第一种,实现了__iter__方法的,因为这个方法返回的就是迭代器,iter可以直接使用这个迭代器

第二种,实现了__getitem__,并且是数字索引,并且是从0开始依次+1的数字索引的,iter函数会构造一个迭代器返回。代码大概是这样,这里写yield是为了表述方便,实际代码应该是用C语言写的

def foo2(obj):

i = 0

while 1:

try:

yield obj.__getitem__(i) # 这句等价于 yield obj[i]

except IndexError:

return

i += 1

因为这里只except了IndexError,所以可以避免对只实现了__getitem__的mapping类对象的误判,举个例子

class ST(object):

def __init__(self):

self.info = 'qwer'

def __getitem__(self, item):

return self.info[item]

class CT(object):

def __init__(self):

self.info = {

0: 'a',

1: 'b',

2: 'c',

}

def __getitem__(self, item):

return self.info[item]

print(list(iter(ST()))) # ['q', 'w', 'e', 'r']

print(list(iter(CT()))) # 会报错 KeyError: 4

为了下面表述方便,我将实现了第一类协议的iterable称呼为一类iterable,实现了第二类协议的称呼为二类iterable

对一类iterable,可以有一种比较好的判断方式assert isinstance(obj, collections.Iterable)

还有一个需要注意的是,可迭代对象不一定是有序的。比如字符串就一定有序,集合就一定无序。

iterator 迭代器

文档里指出,只要实现了迭代器协议的,就算是迭代器。也就是只要正确实现了__iter__和next(python3里是__next__),就是迭代器。这里要求next可以不断取到下一个,而迭代器的__iter__一定返回自身

普通迭代器在使用时,基本就是疯狂调用next,直到抛出StopIteration异常。下面代码里写yield同样只为表述方便,并不是实际代码

def foooo(obj):

while 1:

try:

yield obj.next()

except StopIteration:

return

需要注意的很重要的一点是,迭代器是可耗尽的,也就是一次性的。举例来说,如下代码,a是一个迭代器,第一次循环的时候可以正常使用,输出结果,第二次使用时,因为迭代器已耗尽,所以什么都输出不了,这时候如果再调动一下a.next(),就必定会报StopIteration了

a = [1, 2, 3].__iter__()

print a

print list(i for i in a)

print list(i for i in a)

输出结果是:

[1, 2, 3]

[]

那如果想重复使用一个迭代器,该怎么做呢,内置的itertools模块有一个tee(iterable, n=2)方法,接收一个可迭代对象,然后返回n个它的不同的迭代器,这个函数有个关于新旧迭代器的小坑,感兴趣的自己去了解吧,源码和官方文档在这 https://docs.python.org/2.7/library/itertools.html#itertools.tee ,应该已经讲的很清楚了,想看实例的话可以点 阅读原文,看我之前写的itertools模块的调用实例。搞清楚这个函数,迭代器的“耗尽”就肯定没问题了

a = [1, 2, 3].__iter__()

print a

b, c = itertools.tee(a)

print b, c

print list(i for i in b)

print list(i for i in c)

输出结果是:

[1, 2, 3]

[1, 2, 3]

generator 生成器

生成器也是一种迭代器,那么它和一般迭代器相比,有什么优势?

我认为优势有三点

第一点是,生成器比迭代器多实现了三个方法,send, throw和close,提供了更多操作,这里不再展开。

第二点是,生成器更方便,生成器有两种构造方式,1是函数类,用yield关键字构建,2是列表推导的时候,把列表推导最外层的[]换成(),这两种方式中__iter__和next这两个函数都不需要显式实现,而是由生成器自动提供,可以让代码更pythonic,也更易读

第三点是,生成器更适合做计算,即含有复杂逻辑的迭代。我们知道普通迭代器不停next就完了,而生成器一般要求在next之前需要做各种计算和判断,然后返回合适的值。虽然这种操作使用迭代器也能实现,但跟生成器相比实在是不方便。举个最经典的计算斐波那契数列的例子,下面是迭代器实现和生成器实现。

class Fib_1(object):

def __init__(self):

self.n1, self.n2 = 0, 1

def __iter__(self):

return self

def next(self):

self.n1, self.n2 = self.n2, self.n1 + self.n2

return self.n1

def fib_2():

a, b = 0, 1

while 1:

a, b = b, a + b

yield a

f1 = Fib_1()

print(f1)

assert f1 is iter(f1)

assert isinstance(f1, collections.Iterable)

assert isinstance(f1, collections.Iterator)

print(list(itertools.islice(f1, 0, 10)))

f2 = fib_2()

print(f2)

assert f2 is iter(f2)

assert isinstance(f2, collections.Iterable)

assert isinstance(f2, collections.Iterator)

print(list(itertools.islice(f2, 0, 10)))

输出结果为:

[1, 1, 2, 3, 5, 8, 13, 21, 34, 55]

[1, 1, 2, 3, 5, 8, 13, 21, 34, 55]

其实,生成器一般不跟迭代器做比较,生成器比较的是类似列表推导一类的,先把全量数据生成出来,再依次迭代的情况,那种情况会消耗大量内存空间,而生成器消耗的空间是一定的,跟size没关系。最经典的例子是range和xrange,后者的__iter__是用的生成器实现,这样在迭代时,就不会像前者一样先把整个list算出来再迭代,而是迭代一个算一个,在数据量超大的时候,后者的优势会极为明显。

如下面两行,同样是输出0~1亿序列中的前三位,第一行会先把这一亿个数算出来,存到list里,然后再摘前三个,速度超慢还浪费空间。第二行则是一共就生成了三个,时间空间节省的不是一点半点。注意,生成器不是序列,所以不能用切片功能,我这里用的itertools.islice可以对迭代器进行切片,返回的仍然是迭代器,所以最后要用list包一层,消耗尽迭代器。

print(list(range(0, 100000000)[:3]))

print(list(itertools.islice(xrange(0, 100000000), 0, 3)))

输出结果为:

[0, 1, 2]

[0, 1, 2]

sequence 序列

序列,是指有顺序的,有数字索引的,且索引是从0到序列长度-1的,不是mapping的一种结构。python里就只有六种: str, unicode, list, tuple, bytearray, buffer, xrange,自定义的类如果想通过sequence检测,要么继承collections.Sequence,要么继承Sequence,要么使用Sequence.register(MyClass),没有像迭代器那样实现几个方法就可以成为迭代器的操作。我们常用的其实也就是字符串,列表,元组以及xrange。这个xrange本身是sequence,但它的__iter__是返回的生成器,这个需要注意下。

这些概念之间的关系

左与上的关系

iterable

iterator

generator

iterable

iterable不是iterator

一类iterable

iterable.__iter__()返回其iterator

iterator

iterator是一类iterable

iterator.__iter__()返回自身

generator

generator是一类iterable

generator是iterator

generator.__iter__()返回自身(还是generator)

sequence

sequence是二类iterable

sequence不是iterator

sequence一般不扯生成器,但xrange.__iter__()是用生成器实现的,所以说具体情况具体分析吧

文章首发于微信公众号:Woko笔记

欢迎大家来拍砖~

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值