0 前言
说到处理循环,我们习惯使用for, while等,比如依次打印每个列表中的字符:
![42b943b77b4d58afc614cddaf67291bf.png](https://i-blog.csdnimg.cn/blog_migrate/1641a2a74d7bcce776e518673bca0d62.jpeg)
在打印内容字节数较小时,全部载入内存后,再打印,没有问题。可是,如果现在有成千上百万条车辆行驶轨迹,叫你分析出其中每个客户的出行规律,堵车情况等,假如是在单机上处理这件事。
你可能首先要面临,也可能被你忽视,最后代码都写好后,才可能暴露出的一个问题:outofmemory, 这在实际项目中经常遇到。
这个问题提醒我们,处理数据时,如何写出高效利用内存的程序,就显得很重要。今天,我们就来探讨如何高效利用内存,节省内存同时还能把事情办好。
其实,Python已经准备好一个模块专门用来处理这件事,它就是itertools 模块,这里面几个函数的功能其实很好理解。
我不打算笼统的介绍它们所能实现的功能,而是想分析这些功能背后的实现代码,它们如何做到高效节省内存的,Python内核的贡献者们又是如何写出一手漂亮的代码的,这很有趣,不是吗?
OK,let's go. Hope you enjoy the journey!
1 拼接元素
itertools 中的chain 函数实现元素拼接,原型如下,参数*表示个数可变的参数
chain(iterables)
应用如下:
![019c0e7bf59022293eb78e3d92d48b47.png](https://i-blog.csdnimg.cn/blog_migrate/07d36a3c7e27e1cf83d7070ad5a73e39.jpeg)
哇,不能再好用了,它有点join的味道,但是比join强,它的重点在于参数都是可迭代的实例。
那么,chain如何实现高效节省内存的呢?chain大概的实现代码如下:
![33d44cd3f2c8109e5d1bb1856bd3bf22.png](https://i-blog.csdnimg.cn/blog_migrate/283d984c7f36a923b05b81a8d1f1f915.jpeg)
以上代码不难理解,chain本质返回一个生成器,所以它实际上是一次读入一个元素到内存,所以做到最高效地节省内存。
2 逐个累积
返回列表的累积汇总值,原型:
accumulate(iterable[, func, *, initial=None])
应用如下:
![587d69ff76adc0eab1b031de3690cae1.png](https://i-blog.csdnimg.cn/blog_migrate/a6e54921b3264b593ff2c47368586dfd.jpeg)
accumulate大概的实现代码如下:
![1cd1ad18e48175b43472ac2236f46214.png](https://i-blog.csdnimg.cn/blog_migrate/ec9d4ca0e9fd949c1a7e91a883b787ef.jpeg)
以上代码,你还好吗?与chain简单的yield不同,此处稍微复杂一点,yield有点像return,所以 yield total那行直接就返回一个元素,也就是iterable的第一个元素,因为任何时候这个函数返回的第一个元素就是它的第一个。又因为yield返回的是一个generator对象,比如名字gen,所以next(gen)时,代码将会执行到 for element in it:这行,而此时的迭代器it 已经指到iterable的第二个元素,OK,相信你懂了!
3 漏斗筛选
它是compress 函数,功能类似于漏斗功能,所以我称它为漏斗筛选,原型:
compress(data, selectors)