python内存管理
python作为一门解释型语言,以代码简洁易懂著称。我们可以直接对对象
赋值,而不必声明类型。对象
类型的确定、内存空间的分配与释放都是由python解释器在运行时进行的。python这一自动管理内存功能极大的减小了程序员负担,这也是成就python自身的重要原因之一。
以下将分为引用计数、标记-清除、和分代回收三个方面进行分享,若有错误,敬请指正!
引用计数(Reference Counting)
Python解释器中,主要通过引用计数(Reference Counting) 进行垃圾回收。
typedef struct_object {
int ob_refcnt;
struct_typeobject *ob_type;
} PyObject;
在Python中每一个对象的核心就是一个结构体PyObject
,它的内部有一个引用计数器ob_refcnt
。程序在运行的过程中会实时的更新ob_refcnt
的值,来反映引用当前对象的名称数量。当某对象的引用计数值为0
,那么它的内存就会被立即释放掉。
以下是导致引用计数加一的情况:
- 对象被创建,例如a=2
- 对象被引用,b=a
- 对象被作为参数,传入到一个函数中
- 对象作为一个元素,存储在容器中
以下是导致引用计数减一的情况:
- 对象别名被显示销毁 del
- 对象别名被赋予新的对象
- 一个对象离开他的作用域
- 对象所在的容器被销毁或者是从容器中删除对象
我们还可以通过sys
包中的getrefcount()
来获取一个名称所引用的对象当前的引用计数;(注意,这里getrefcount()本身会使得引用计数加一)
sys.getrefcount(a)
引用计数法有其明显的优点,如高效、实现逻辑简单、具备实时性,一旦一个对象的引用计数归零,内存就直接释放了。不用像其他机制等到特定时机。将垃圾回收随机分配到运行的阶段,处理回收内存的时间分摊到了平时,正常程序的运行比较平稳。
但是,引用计数也存在着一些缺点,通常的缺点有:
- 逻辑简单,但实现有些麻烦。每个对象需要分配单独的空间来统计引用计数,这无形中加大的空间的负担,并且需要对引用计数进行维护,在维护的时候很容易会出错。
- 在一些场景下,可能会比较慢。正常来说垃圾回收会比较平稳运行,但是当需要释放一个大的对象时,比如字典,需要对引用的所有对象循环嵌套调用,从而可能会花费比较长的时间。
- 循环引用。这将是引用计数的致命伤,引用计数对此是无解的,因此必须要使用其它的垃圾回收算法对其进行补充。
也就是说,Python 的垃圾回收机制,很大一部分是为了处理可能产生的循环引用,是对引用计数的补充。
标记-清除(Mark and Sweep)
Python采用了 “标记-清除”(Mark and Sweep)算法,解决容器对象可能产生的循环引用问题。(注意,只有容器对象才会产生循环引用的情况,比如列表、字典、用户自定义类的对象、元组等。而像数字,字符串这类简单类型不会出现循环引用。作为一种优化策略,对于只包含简单类型的元组也不在标记清除算法的考虑之列)
跟其名称一样,该算法在进行垃圾回收时分成了两步,分别是:
- 标记阶段,遍历所有的对象,如果是可达的
(reachable)
,也就是还有对象引用它,那么就标记该对象为可达; - 清除阶段,再次遍历对象,如果发现某个对象没有标记为可达,则就将其回收。
如下图所示,在标记清除算法中,为了追踪容器对象,需要每个容器对象维护两个额外的指针,用来将容器对象组成一个双端链表,指针分别指向前后两个容器对象,方便插入和删除操作。python解释器(Cpython)
维护了两个这样的双端链表,一个链表存放着需要被扫描的容器对象,另一个链表存放着临时不可达对象。在图中,这两个链表分别被命名为Object to Scan
和Unreachable
。
下图中例子表示为:link1
,link2
,link3
组成了一个引用环,同时link1
还被一个对象A
(其实这里称为名称A更好)引用。link4
自引用,也构成了一个引用循环。从图中我们还可以看到,每一个节点除了有一个记录当前引用计数的变量ref_count
,还有一个gc_ref
变量,这个gc_ref
是ref_count
的一个副本,所以初始值为ref_count
的大小。
分代回收(Generational Collection) 启动的时候(以下简称gc)
,会逐个遍历Object to Scan
链表中的容器对象,并且将当前对象的gc_ref
减一(即就是扫描到link1
的时候,将link1
的gc_ref
减一,扫描到link2
的时候,将link2
的gc_ref
减一这样,依次进行)。像这样将Objects to Scan
链表中的所有对象考察一遍之后,两个链表中的对象的ref_count
和gc_ref
的情况如下图所示。这一步操作就相当于解除了循环引用对引用计数的影响。
接着,gc
会再次扫描所有的容器对象,如果对象的gc_ref
值为0
,那么这个对象就被标记为GC_TENTATIVELY_UNREACHABLE
,并且被移至Unreachable
链表中。下图中的link2
、link3
和link4
就是这样一种情况。
如果对象的gc_ref
不为0
,那么这个对象就会被标记为GC_REACHABLE
。同时当gc
发现有一个节点是可达的,那么他会递归式的将从该节点出发可以到达的所有节点标记为GC_REACHABLE
,这就是下图中link1
、link2
和link3
所碰到的情形。
除了将所有可达节点标记为GC_REACHABLE
之外,如果该节点当前在Unreachable
链表中的话,还需要将其移回到Object to Scan
链表中,下图就是link2
和link3
移回之后的情形。
第二次遍历的所有对象都遍历完成之后,存在于Unreachable
链表中的对象就是真正需要被释放的对象。如上图所示,此时link4
存在于Unreachable
链表中,gc
随即释放之。
上面描述的垃圾回收的阶段,会暂停整个应用程序,等待标记清除结束后才会恢复应用程序的运行。
分代回收(Generational Collection)
在循环引用对象的回收中,整个应用程序会被暂停,为了减少应用程序暂停的时间,Python 通过 “分代回收”(Generational Collection) 以空间换时间的方法提高垃圾回收效率。
分代回收是基于这样的一个统计事实,对于程序,存在一定比例的内存块的生存周期比较短;而剩下的内存块,生存周期会比较长,甚至会从程序开始一直持续到程序结束。生存期较短对象的比例通常在 80%~90% 之间,这种思想简单点说就是:对象存在时间越长,越可能不是垃圾,应该越少去收集。这样在执行标记-清除算法时可以有效减小遍历的对象数,从而提高垃圾回收的速度。
python gc
给对象定义了三种世代(0,1,2),每一个新生对象在generation zero
中,如果它在一轮gc
扫描中活了下来,那么它将被移至generation one
,在那里他将较少的被扫描,如果它又活过了一轮gc
,它又将被移至generation two
,在那里它被扫描的次数将会更少。
gc
的扫描在什么时候会被触发呢?答案是当某一世代中被分配的对象与被释放的对象之差达到某一阈值的时候,就会触发gc
对某一世代的扫描。值得注意的是当某一世代的扫描被触发的时候,比该世代年轻的世代也会被扫描。也就是说如果世代2的gc
扫描被触发了,那么世代0,世代1也将被扫描,如果世代1的gc
扫描被触发,世代0也会被扫描。
该阈值可以通过下面两个函数查看和调整:
gc.get_threshold() # (threshold0, threshold1, threshold2).
gc.set_threshold(threshold0[, threshold1[, threshold2]])
下面对set_threshold()
中的三个参数threshold0
, threshold1
, threshold2
进行介绍。gc
会记录自从上次收集以来新分配的对象数量与释放的对象数量,当两者之差超过threshold0
的值时,gc
的扫描就会启动,初始的时候只有世代0被检查。如果自从世代1最近一次被检查以来,世代0被检查超过threshold1
次,那么对世代1的检查将被触发。相同的,如果自从世代2最近一次被检查以来,世代1被检查超过threshold2
次,那么对世代2的检查将被触发。get_threshold()
是获取三者的值,默认值为(700,10,10)
。
总结
总体来说,在Python中,主要通过引用计数进行垃圾回收;通过 “标记-清除” 解决容器对象可能产生的循环引用问题;通过 “分代回收” 以空间换时间的方法提高垃圾回收效率。
参考:https://zhuanlan.zhihu.com/p/83251959