python 垃圾回收
基于C语言源码底层
- 引用计数器
- 标记清除
- 分代回收
- 缓存机制
- python的C源码(3.8.2 版本)
1. 引用计数器
1.1 引用计数器
python中创建的任何对象,都会放在refchain链表中。
name = "123"
age = 18
hobby = ["basketball", "beauty"]
内部会创建一些数据【上一个对象,下一个对象,类型,引用个数,val="123"】
name = "123"
new = name # 引用计数 +1
内部会创建一些数据【上一个对象,下一个对象,类型,引用个数, val=18】
age = 18
内部会创建一些数据【上一个对象,下一个对象,类型,引用个数,item=元素,元素个数】
hobby = ["basketball", "beauty"]
在C源码中如何体现每个对象都有的相同的值,PyObject封装【上一个对象,下一个对象,类型,引用个数】,如果有多个元素用ob_size声明。
1.2 类型封装结构体
data = 3.14
内部会创建
_ob_next = refchain中的上一个对象
_ob_prev = refchain中的下一个对象
ob_refcnt = 1 # 引用计数器
ob_type = float
ob_fval = 3.14
1.3 引用计数器
vl = 3.14
v2 = 999
v3 = (1, 2, 3)
当python程序运行时,会根据数据类型的不同找到其对应的结构体,根据结构体中的字段来进行创建相关的数据,然后将对象添加到refchain双链表中。
在源码中有两个关键的结构体:PyObject、PyVarObject
每个对象中有ob_refcnt 就是引用计数器,值默认为1,当有其他变量引用对象时,引用计数器就会发生变化。
-
引用
a = 99999 b = a # 引用计数器 +1
-
删除引用
a = 999 b = a del b # b变量删除:b对应对象引用计数器-1 del a # a变量删除:a对应对象引用计数器-1 # 当一个对象的引用计数器为0时,意味着没有人再使用这个对象了,这个对象就是垃圾,垃圾回收 # 回收:1.对象从refchain链表中移除;2.将对象销毁,内存归还(当然并不是直接销毁,缓存机制会讲)
1.4 循环引用问题
2. 标记清除
目的:为了解决引用计数器循环引用的不足。
实现:在python的底层再去维护一个链表,链表中专门放那些可能存在循环引用的对象(list/tuple/dict/set)。
在python内部某种情况下触发,会去扫描可能存在循环引用的链表中的每个元素,检查是否有循环引用。如果有则让双方的引用计数器-1,如果是0则垃圾回收。
问题:
- 什么时候扫描一次?
- 可能存在循环引用的链表代价大,每次扫描耗时久。
3. 分代回收
讲可能存在循环引用的对象维护成3个链表
- 0代:0代的对象个数达到700个,扫描一次(扫描若循环引用则减,如果是垃圾剔除,其余放入1代)
- 1代:0代如果扫描10次,则1代扫描一次
- 2代:1代扫描10次,则2代扫描一次
4. 小结
在python中维护了一个refchain的双向环状链表,这个链表存储程序中创建的所有对象,每种类型的对象种都有一个ob_refcnt引用计数器的值,引用个数+1,-1,最后当引用计数器变为0时会进行垃圾回收(对象销毁、refchain中移除)
但是,在python中对于那些可以多个元素组成的对象可能会存在循环引用的问题,巍峨了解决这个问题python又引入了标记清除和分代回收。在其内部分为了4个链表:
- refchain(所有的对象)
- 2代,10次
- 1代,10次
- 0代,700个
在源码内部当达到各自的阈值时,就会出发扫描链表进行标记清除的动作(有循环引用则各自-1)
但是,源码内部在上述流程中提出了优化机制。
5. Python缓存
5.1 池(int)
为了避免重复创建和销毁一些常见对象,维护池。
# 在启动解释器的时候,python内部自动创建一些值:-5、-4、...、257
v1 = 7 # 内部不会开辟内存,直接去池中获取
v2 = 9 # 内部不会开辟内存,直接去池中获取
v3 = 9
v4 = 999
v5 = 666
v6 = 666
v4、v5、v6都会重新创建对象
-
int类型,不是基于free_list,而是维护一个small_ints链表保存常见数据(小数据池),小数据池范围:
-5 <= value < 257
。即:重复使用这个范围的整数时,不会重新开辟内存。v1 = 38 # 去小数据池small_ints中获取38整数对象,将对象添加到refchain并让引用计数器+1。 print( id(v1)) #内存地址:4514343712 v2 = 38 # 去小数据池small_ints中获取38整数对象,将refchain中的对象的引用计数器+1。 print( id(v2) ) #内存地址:4514343712 # 注意:在解释器启动时候-5~256就已经被加入到small_ints链表中且引用计数器初始化为1,代码中使用的值时直接去small_ints中拿来用并将引用计数器+1即可。另外,small_ints中的数据引用计数器永远不会为0(初始化时就设置为1了),所以也不会被销毁。
5.2 free_list(float/list/tuple/dict)
当一个对象的引用计数器为0时,按理说应该进行回收,而在内部不会直接回收,而是将对象添加到free_list链表中当缓存。以后再去创建对象时,不再重新开辟内存,而是直接使用free_list
v1 = 3.14 # 开辟内存,内部存储结构体中定义的那几个值,并添加到refchain中。
del v1 # 从refchain中移除,将对象添加到free_list(最多80个),满了就销毁。
v9 = 99.99 # 不会重新开辟内存,去free_list中获取对象,对象内部数据初始化,再放到refchain中。
-
float类型,维护的free_list链表最多可缓存100个float对象。
v1 = 3.14 # 开辟内存来存储float对象,并将对象添加到refchain链表。 print( id(v1) ) # 内存地址:4436033488 del v1 # 引用计数器-1,如果为0则在rechain链表中移除,不销毁对象,而是将对象添加到float的free_list. v2 = 9.999 # 优先去free_list中获取对象,并重置为9.999,如果free_list为空才重新开辟内存。 print( id(v2) ) # 内存地址:4436033488 # 注意:引用计数器为0时,会先判断free_list中缓存个数是否满了,未满则将对象缓存,已满则直接将对象销毁。
-
str类型,维护
unicode_latin1[256]
链表,内部将所有的ascii字符
缓存起来,以后使用时就不再反复创建。v1 = "A" print( id(v1) ) # 输出:4517720496 del v1 v2 = "A" print( id(v1) ) # 输出:4517720496 # 除此之外,Python内部还对字符串做了驻留机制,针对那么只含有字母、数字、下划线的字符串(见源码Objects/codeobject.c),如果内存中已存在则不会重新在创建而是使用原来的地址里(不会像free_list那样一直在内存存活,只有内存中有才能被重复利用)。 v1 = "wupeiqi" v2 = "wupeiqi" print(id(v1) == id(v2)) # 输出:True
-
list类型,维护的free_list数组最多可缓存80个list对象。
v1 = [11,22,33] print( id(v1) ) # 输出:4517628816 del v1 v2 = ["武","沛齐"] print( id(v2) ) # 输出:4517628816
-
tuple类型,维护一个free_list数组且数组容量20,数组中元素可以是链表且每个链表最多可以容纳2000个元组对象。元组的free_list数组在存储数据时,是按照元组可以容纳的个数为索引找到free_list数组中对应的链表,并添加到链表中。
free_list = [0, 1, 2, ... , 19] [空元组] [有1个元素的元组] [有2个元素的元组] 2000 2000
v1 = (1,2) print( id(v1) ) del v1 # 因元组的数量为2,所以会把这个对象缓存到free_list[2]的链表中。 v2 = ("武沛齐","Alex") # 不会重新开辟内存,而是去free_list[2]对应的链表中拿到一个对象来使用。 print( id(v2) )
-
dict类型,维护的free_list数组最多可缓存80个dict对象。
v1 = {"k1":123} print( id(v1) ) # 输出:4515998128 del v1 v2 = {"name":"武沛齐","age":18,"gender":"男"} print( id(v1) ) # 输出:4515998128
如果想要了解源码,可以看这篇文章:
如果想要这篇文章的markdown文档,可以关注公众号 AC粥 输入 python回收机制 即可。