0.引言1.引用计数器1.1.环状双向链表 refchain1.2.类型封装结构体1.3.引用计数器1.4.循环引用问题2.标记清除3.分代回收4.小结5. 缓存机制5.1.池(int、字符串)5.2.free_list(float/list/tuple/dict)
-
引用计数器
-
标记清除
-
分代回收
-
缓存机制
0.引言
最近一直对于python的垃圾回收机制有些疑惑,于是查了一些资料,看了一些大神的解析,总结了一下,供自己以后参考,避免忘记。
在b站学习了一下,这位大神 -- 凸头统治地球,【基于C语言源码剖析】python垃圾回收和内存管理
1.引用计数器
1.1.环状双向链表 refchain
在Python程序中创建的任何对象都会被放在refchain链表中。
name = "niuniu"
age = 18
hobby = ["篮球","美女"]
#内存会创建一些数据【上一个对象,下一个对象,类型,引用个数】
name = "niuniu"
new = name
#内部会创建一些数据【上一个对象,下一个对象,类型,引用个数,val=18】
age = 18
#内部会创建一些数据【上一个对象,下一个对象,类型,引用个数,items=元素,元素个数】
hobby = ["篮球","美女"]
在C源码中如何体现每个对象中都有的相同的值:PyObject结构体(4个值)。
有多个元素组成的对象,PyObject结构体(4个值) + ob_size。
1.2.类型封装结构体
data = 3.14
内部会创建:
_ob_next = refchain中的上一个对象
_ob_prev = refchain中的下一个对象
ob_refcnt = 1
ob_type = float
ob_fval = 3.14
1.3.引用计数器
v1 = 3.14
v2 = 999
v3 = (1,2,3)
当python程序运行时,会根据数据类型的不同找到其对应的结构体,根据结构体中的字段来进行创建相关的数据,然后将对象添加到refchain双线链表中。
在C源码中有两个关键的结构体:PyObject、PyVarObject。
每个对象中有ob_refcnt就是引用计数器,值默认为1,当有其他变量引用对象时,引用计数器就会变化。
-
引用
a = 99999
b = a
-
删除引用
del b # b变量删除,b对应对象引用计数器-1
del a # a变量删除,a对应对象引用计数器-1
# 当一个对象的引用计数器为0时,意味着没有人再使用这个对象了,这个对象就是垃圾,垃圾回收。
# 回收:1.对象从refchain链表移除,2.将对象销毁,内存归还。
1.4.循环引用问题
v1 = [11,22,33] # refchain中创建一个列表对象,由于v1=对象,所以列表对象引用计数器为1.
v2 = [44,55,66] # refchain中再创建一个列表对象,由于v2=对象,所以列表对象引用计数器为1.
v1.append(v2) # 把v2追加到v1中,则v2对应的[44,55,66]对象引用计数器加1,最终为2.
v2.appedn(v1) # 把v1追加到v2中,则v1对应的[11,22,33]对象引用计数器加1,最终为2.
del v1 # 引用计数器-1
del v2 # 引用计数器-1
2.标记清除
目的:是为了解决引用计数器循环引用的不足。
实现:在python的底层 再 维护一个链表,链表中专门放可能存在循环引用的对象(集合,元组,列表,字典)。
在python内部某种情况
下触发,会去扫描 可能存在循环应用的链表
中的每个元素,检查是否有循环引用,如果有则让双方的引用计数器-1;如果是0则垃圾回收。
问题:
-
什么时候扫描一次?
-
可能存在循环引用的链表扫描代价大,每次扫描耗时久。
3.分代回收
将可能存在循环引用的对象维护成3个链表;
-
0代:0代中对象个数达到700个扫描一次。
-
1代:0代扫描10次,则1代扫描一次。
-
2代:1代扫描10次,则2代扫描一次。
4.小结
在python中维护了一个refchain的双向环状链表,这个链表中存储程序创建的所有对象,每中类型的对象中都有一个ob_refcnt引用计数器的值,引用个数+1,-1,最后当引用计数器变为0时会进行垃圾回收(对象销毁,refchain中移除)。
但是,在python中对于那些可以有多个元素组成的对象可能存在循环引用的问题,为了解决这个问题python又引用了标记清除和分代回收,在其内部维护4个链表。
-
refchain
-
2代
-
1代
-
0代
在源码内部当达到各自的阈值时,会触发扫描链表进行标记清除的动作(有循环引用则各自-1)。
源码内部在桑树的流程中提出优化机制--缓存机制。
5. 缓存机制
5.1.池(int、字符串)
为了避免重复创建和销毁一些常见对象,引入维护池。
# 启动解释器时,python内部帮我们创建:-5,-4,...257
v1 = 7 # 内部不会开辟内存,直接去池中获取
v2 = 9 # 内部不会开辟内存,直接去池中获取
v3 = 9 # 内部不会开辟内存,直接去池中获取
print(id(v2),id(v3))
5.2.free_list(float/list/tuple/dict)
当一个对象的引用计数器为0时,本应该回收,但内部不会直接回收,而是将对象添加到free_list链表中当缓存,以后再去创建对象时,不再重新开辟内存,而是直接使用free_list。
v1 = 3.14 # 开辟内存,内部存储结构体中定义那几个值,并存到refchain中。
del v1 # refchain中移除,将对象添加到free_list中(80个),free_list满了则销毁。
v9 = 999.9 # 不会重新开辟内存,去free_list中获取对象,对象内部数据初始化,再放到refchain中。