c语言和python垃圾回收制,大话Python垃圾回收机制

在面试当中经常被问Python的垃圾回收是怎么做的,但也只是一句话:

引用计数器为主、分代回收和标记清除为辅。

垃圾回收

1.1 refchain

在Python的C源码中有一个refchain的环状双向链表,Python程序当中一旦创建对象都会把这个对象添加到refchain这个链表当中,保存着所有的对象。

name = "皮卡丘"

width = 5

bVbG0g6

1.2引用计数器

在refchain中所有对象内部都有一个ob_refcnt用来保存当前对象的引用计数器

name = "皮卡丘"

width = 5

nickname = name

上述代码表示内存中有5和”皮卡丘“两个值,他们的引用计数器分别为1、2

bVbG0hv

当值被多次引用时候,不会再内存中重复创建数据,而是引用计数器+1。当对象被销毁时候同时会让引用计数器-1,如果引用计数器为0,则将对象从refchain链表中删除,同时在内存中进行销毁(暂时不考虑缓存等特殊情况)。

name = "皮卡丘"

nickname = name # 对象”皮卡丘“的引用计数器+1

del name 对象"皮卡丘"的引用计数器-1

def run(arg):

print(arg)

run(nickname) # 刚开始执行函数时,对象”皮卡丘“引用计数器+1,当函数执行完毕之后,对象引用计数器-1

name_list = ["张三","法外狂徒",name] # 对象”皮卡丘“的引用计数器+1

但是这样还是存在一个BUG,当出现循环引用的时候,就会无法正常的回收一些数据,例如

v1 = [11,22,33] # refchain中创建一个列表对象,由于v1=对象,所以列表引对象用计数器为1.

v2 = [44,55,66] # refchain中再创建一个列表对象,因v2=对象,所以列表对象引用计数器为1.

v1.append(v2) # 把v2追加到v1中,则v2对应的[44,55,66]对象的引用计数器加1,最终为2.

v2.append(v1) # 把v1追加到v1中,则v1对应的[11,22,33]对象的引用计数器加1,最终为2.

del v1 # 引用计数器-1

del v2 # 引用计数器-1

对于上面的代码,执行del操作之后,没有变量再会去使用那两个列表对象,但由于循环引用的问题,他们的引用计数器不为0,所以他们的状态:永远不会被使用、也不会被销毁。项目中如果这种代码太多,就会导致内存一直被消耗,直到内存被耗尽,程序崩溃。

1.3标记清除&分代回收

标记清除:创建特殊链表专门用于保存 列表、元组、字典、集合、自定义类等对象,之后再去检查这个链表中的对象是否存在循环引用,如果存在则让双方的引用计数器均 - 1 。

分代回收:对标记清楚中的链表进行优化,将那些可能存在循环引用的对象拆分到3个链表,链表成为0/1/2三代,每代都可以存储对象和阈值,当达到阈值时,就会对相应的链表中的每个对象做一次扫描,除循环引用各自减1并且销毁引用计数器为0的对象。`

// 分代的C源码

#define NUM_GENERATIONS 3

struct gc_generation generations[NUM_GENERATIONS] = {

/* PyGC_Head, threshold, count */

{{(uintptr_t)_GEN_HEAD(0), (uintptr_t)_GEN_HEAD(0)}, 700, 0}, // 0代

{{(uintptr_t)_GEN_HEAD(1), (uintptr_t)_GEN_HEAD(1)}, 10, 0}, // 1代

{{(uintptr_t)_GEN_HEAD(2), (uintptr_t)_GEN_HEAD(2)}, 10, 0}, // 2代

};

0代,count表示0代链表中对象的数量,threshold表示0代链表对象个数阈值,超过则执行一次0代扫描检查。

1代,count表示0代链表扫描的次数,threshold表示0代链表扫描的次数阈值,超过则执行一次1代扫描检查。

2代,count表示1代链表扫描的次数,threshold表示1代链表扫描的次数阈值,超过则执行一2代扫描检查。

1.4缓存机制

实际上他不是这么的简单粗暴,因为反复的创建和销毁会使程序的执行效率变低。Python中引入了“缓存机制”机制。

例如:引用计数器为0时,不会真正销毁对象,而是将他放到一个名为free_list的链表中,之后会再创建对象时不会在重新开辟内存,而是在free_list中将之前的对象来并重置内部的值来使用。

float类型,维护的free_list链表最多可缓存100个float对象。

* 1. `v1 = 3.14 # 开辟内存来存储float对象,并将对象添加到refchain链表。`

2. `print( id(v1) ) # 内存地址:4436033488`

3. `del v1 # 引用计数器-1,如果为0则在rechain链表中移除,不销毁对象,而是将对象添加到float的free_list.`

4. `v2 = 9.999 # 优先去free_list中获取对象,并重置为9.999,如果free_list为空才重新开辟内存。`

5. `print( id(v2) ) # 内存地址:4436033488`

7. `# 注意:引用计数器为0时,会先判断free_list中缓存个数是否满了,未满则将对象缓存,已满则直接将对象销毁。`

int类型,不是基于free_list,而是维护一个small_ints链表保存常见数据(小数据池),小数据池范围:-5 <= value < 257。即:重复使用这个范围的整数时,不会重新开辟内存。

v1 = 38 # 去小数据池small_ints中获取38整数对象,将对象添加到refchain并让引用计数器+1。

print( id(v1)) #内存地址:4514343712

v2 = 38 # 去小数据池small_ints中获取38整数对象,将refchain中的对象的引用计数器+1。

print( id(v2) ) #内存地址:4514343712

# 注意:在解释器启动时候-5~256就已经被加入到small_ints链表中且引用计数器初始化为1,代码中使用的值时直接去small_ints中拿来用并将引用计数器+1即可。另外,small_ints中的数据引用计数器永远不会为0(初始化时就设置为1了),所以也不会被销毁。

str类型,维护unicode_latin1[256]链表,内部将所有的ascii字符缓存起来,以后使用时就不再反复创建。

v1 = "A"

print( id(v1) ) # 输出:4517720496

del v1

v2 = "A"

print( id(v1) ) # 输出:4517720496

# 除此之外,Python内部还对字符串做了驻留机制,针对那么只含有字母、数字、下划线的字符串(见源码Objects/codeobject.c),如果内存中已存在则不会重新在创建而是使用原来的地址里(不会像free_list那样一直在内存存活,只有内存中有才能被重复利用)。

v1 = "wupeiqi"

v2 = "wupeiqi"

print(id(v1) == id(v2)) # 输出:True

list类型,维护的free_list数组最多可缓存80个list对象。

v1 = [11,22,33]

print( id(v1) ) # 输出:4517628816

del v1

v2 = ["小猪","佩奇"]

print( id(v2) ) # 输出:4517628816

tuple类型,维护一个free_list数组且数组容量20,数组中元素可以是链表且每个链表最多可以容纳2000个元组对象。元组的free_list数组在存储数据时,是按照元组可以容纳的个数为索引找到free_list数组中对应的链表,并添加到链表中。

v1 = (1,2)

print( id(v1) )

del v1 # 因元组的数量为2,所以会把这个对象缓存到free_list[2]的链表中。

v2 = ("小猪","佩奇") # 不会重新开辟内存,而是去free_list[2]对应的链表中拿到一个对象来使用。

print( id(v2) )

dict类型,维护的free_list数组最多可缓存80个dict对象。

v1 = {"k1":123}

print( id(v1) ) # 输出:4515998128

del v1

v2 = {"name":"武沛齐","age":18,"gender":"男"}

print( id(v1) ) # 输出:4515998128

2 C语言源码分析

2.1两个重要的结构体

#define PyObject_HEAD PyObject ob_base;

#define PyObject_VAR_HEAD PyVarObject ob_base;

// 宏定义,包含 上一个、下一个,用于构造双向链表用。(放到refchain链表中时,要用到)

#define _PyObject_HEAD_EXTRA \

struct _object *_ob_next; \

struct _object *_ob_prev;

typedef struct _object {

_PyObject_HEAD_EXTRA // 用于构造双向链表

Py_ssize_t ob_refcnt; // 引用计数器

struct _typeobject *ob_type; // 数据类型

} PyObject;

typedef struct {

PyObject ob_base; // PyObject对象

Py_ssize_t ob_size; /* Number of items in variable part,即:元素个数 */

} PyVarObject;

这两个结构体PyObject和PyVarObject是基石,他们保存这其他数据类型公共部分,例如:每个类型的对象在创建时都有PyObject中的那4部分数据;list/set/tuple等由多个元素组成对象创建时都有PyVarObject中的那5部分数据。

2.2常见类型结构体

平时我们在创建一个对象时,本质上就是实例化一个相关类型的结构体,在内部保存值和引用计数器等。

float类型

typedef struct {

PyObject_HEAD

double ob_fval;

} PyFloatObject;

int类型

struct _longobject {

PyObject_VAR_HEAD

digit ob_digit[1];

};

/* Long (arbitrary precision) integer object interface */

typedef struct _longobject PyLongObject; /* Revealed in longintrepr.h */

str类型

typedef struct {

PyObject_HEAD

Py_ssize_t length; /* Number of code points in the string */

Py_hash_t hash; /* Hash value; -1 if not set */

struct {

unsigned int interned:2;

/* Character size:

- PyUnicode_WCHAR_KIND (0):

* character type = wchar_t (16 or 32 bits, depending on the

platform)

- PyUnicode_1BYTE_KIND (1):

* character type = Py_UCS1 (8 bits, unsigned)

* all characters are in the range U+0000-U+00FF (latin1)

* if ascii is set, all characters are in the range U+0000-U+007F

(ASCII), otherwise at least one character is in the range

U+0080-U+00FF

- PyUnicode_2BYTE_KIND (2):

* character type = Py_UCS2 (16 bits, unsigned)

* all characters are in the range U+0000-U+FFFF (BMP)

* at least one character is in the range U+0100-U+FFFF

- PyUnicode_4BYTE_KIND (4):

* character type = Py_UCS4 (32 bits, unsigned)

* all characters are in the range U+0000-U+10FFFF

* at least one character is in the range U+10000-U+10FFFF

*/

unsigned int kind:3;

unsigned int compact:1;

unsigned int ascii:1;

unsigned int ready:1;

unsigned int :24;

} state;

wchar_t *wstr; /* wchar_t representation (null-terminated) */

} PyASCIIObject;

typedef struct {

PyASCIIObject _base;

Py_ssize_t utf8_length; /* Number of bytes in utf8, excluding the

* terminating \0. */

char *utf8; /* UTF-8 representation (null-terminated) */

Py_ssize_t wstr_length; /* Number of code points in wstr, possible

* surrogates count as two code points. */

} PyCompactUnicodeObject;

typedef struct {

PyCompactUnicodeObject _base;

union {

void *any;

Py_UCS1 *latin1;

Py_UCS2 *ucs2;

Py_UCS4 *ucs4;

} data; /* Canonical, smallest-form Unicode buffer */

} PyUnicodeObject;

list类型

typedef struct {

PyObject_VAR_HEAD

PyObject **ob_item;

Py_ssize_t allocated;

} PyListObject;

tuple类型

typedef struct {

PyObject_VAR_HEAD

PyObject *ob_item[1];

} PyTupleObject;

dict类型

typedef struct {

PyObject_HEAD

Py_ssize_t ma_used;

PyDictKeysObject *ma_keys;

PyObject **ma_values;

} PyDictObject;

通过常见结构体可以基本了解到本质上每个对象内部会存储的数据。

扩展:在结构体部分你应该发现了str类型比较繁琐,那是因为python字符串在处理时需要考虑到编码的问题,在内部规定(见源码结构体):

字符串只包含ascii,则每个字符用1个字节表示,即:latin1

字符串包含中文等,则每个字符用2个字节表示,即:ucs2

字符串包含emoji等,则每个字符用4个字节表示,即:ucs4

写在最后

问渠哪得清如许

唯有源头活水来

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值