基于C语言源码底层,让你真正了解垃圾回收机制的实现
- 引用计数器
- 标记清除
- 分代回收
- 缓存机制
- python的c源码(3.8.2)
1. 引用计数器
1.1 环状双向链表refchain
在python中,创建的任何对象,都会放在refchain链表中,比如:
name = '七分熟'
age = 18
hobby = ["乒乓球","游戏"]
内部会创建一些数据【上一个对象,下一个对象,类型,引用个数】
name = '七分熟'
new = name # new会指向'七分熟'
内部会创建一些数据【上一个对象,下一个对象,类型,引用个数,val=18】
age = 18
内部会创建一些数据【上一个对象,下一个对象,类型,引用个数,items = 元素,元素个数】
hobby = ["乒乓球","游戏"]
在c源码中如何体现每个对象中都有的相同的值(相当于python中的父类,含有四个基本属性)
1.2 类型封装结构体
data = 3.14 # float类型
内部会创建:
_ob_next: refchain上一个对象
_ob_prev: refchain下一个对象
ob_type:float
ob_fval: 3.14
1.3 引用计数器
当python程序运行时,会根据数据类型的不同找到其对应的结构体,根据结构体中的字段进行创建相关的数据,然后将对象添加到refchain双线链表中
在源码中有两个关键的结构体:Pyobject(python所有对象的基类),Pyvarobject(在Pyobject的基础上多了一个ob_size,即对象的size)
每个对象中又ob_refcnt就是引用该计数器,默认为1,当有其他变量引用对象时,引用计数就会发生变化,引用计数为零时,进行垃圾回收(1. 对象从refchain链表移除,2. 将对象销毁,内存归还)
参考c源码:
// _PyObject_HEAD_EXTRA 是双向链表的前驱、后继指针定义
#define _PyObject_HEAD_EXTRA \
struct _object *_ob_next; \
struct _object *_ob_prev;
typedef struct _object {
_PyObject_HEAD_EXTRA//链表前驱、后继指针
Py_ssize_t ob_refcnt;//引用计数
PyTypeObject *ob_type;//类型指针
} PyObject;
typedef struct {
PyObject ob_base;//PyObject对象
Py_ssize_t ob_size;//对象的size
} PyVarObject;
1.4 循环引用 & 交叉感染
v1 = [11,22,33] # refchain创建一个列表对象,由于v1 = 对象,所以引用计数器为1
v2 = [44,55,66] # refchain创建一个列表对象,由于v2 = 对象,所以引用计数器为1
v1.append(v2) # v2追加到v1中,则v2的对象引用计数加1,最终为2
v2.appebd(v1) # v2追加到v1中,则v1的对象引用计数加1,最终为2
del v1 # 引用计数器-1
del v2 # 引用计数器-1
发现删除了元素之后,引用计数为1,不会被当成垃圾回收,不会被销毁,会一直消耗内存
2. 标记清除(为了解决引用计数循环引用的不足)
实现:在python的底层,再维护一个链表,专门放可能循环引用的对象(比如说python的一些可变数据类型list/tuple/dict/set)
在python内部,某种情况下触发
,回去扫描可能存在循环引用链表中的每个元素,检查是否有循环引用,如果有,让双方的引用计数器-1,如果是0则垃圾回收
- 什么时候触发扫描
- 可能存在循环一引用列表扫描代价大,每次扫描需要耗时很久
3. 分代回收
将可能存在循环引用的对象维护成三个链表
- 0代:对象个数达到700会扫描一次,将不是垃圾的对象升级放到1代
- 1代:0代扫描10次,1代扫描1次,同理将不是垃圾的对象放到2代
- 2代:1代扫描10次,2代扫描一次
4. 小结
在python中维护了一个refchain的双向环状链表,用来存储程序中创建的所有对象,每种对象中都有一个ob_refcnt引用计数的值,引用计数为0的时候会进行垃圾回收(对象销毁,refchain中移除)
但是,在python中对于有多个元素组成的对象可能会出现循环引用的问题,为了解决这个问题,python引入了标记清楚和分代回收,在其内部维护了四个链表(refchain,2/1/0代),在源码内部,达到其阈值时,会扫描链表执行清除动作(有循环引用各自减1)
5. pyton缓存
5.1 池
为了避免重复创建和销毁一些常见对象,维护池
# 启动解释器时,内部会场黄健-5,-4,-3,...,257
v1 = 1 # 内部不会开辟内存,直接从池中获取
v2 = 5 # 内部不会开辟内存,直接从池中获取
v3 = 9 # 内部不会开辟内存,直接从池中获取
5.2 free_list
当一个对象的引用计数器为0时,按理说应该回收,但内部不会直接回收,而是将对象添加到free_list链表中当缓存,以后再去创建同类型对象时,不在重新开辟内存,而是直接使用free_list