目录
一、前言
解释器在执行到定义变量的语法时,会申请内存空间来存放变量的值,而内存的容量是有限的,这就涉及到变量值所占用内存空间的回收问题,当一个变量值没有用了(简称垃圾)就应该将其占用的内存给回收掉,那什么样的变量值是没有用的呢?
单从逻辑层面分析,我们定义变量将变量值存起来的目的是为了以后取出来使用,而取得变量值需要通过其绑定的直接引用(如x=10,10被x直接引用)或间接引用(如l=[x,],x=10,10被x直接引用,而被容器类型l间接引用),所以当一个变量值不再绑定任何引用时,我们就无法再访问到该变量值了,该变量值自然就是没有用的,就应该被当成一个垃圾回收。
毫无疑问,内存空间的申请与回收都是非常耗费精力的事情,而且存在很大的危险性,稍有不慎就有可能引发内存溢出问题,好在Cpython解释器提供了自动的垃圾回收机制来帮我们解决了这件事。
二、什么是垃圾回收机制?
垃圾回收机制(简称GC)是Python解释器自带一种机,专门用来回收不可用的变量值所占用的内存空间。
三、为啥要用垃圾回收机制?
程序运行过程中会申请大量的内存空间,而对于一些无用的内存空间如果不及时清理的话会导致内存使用殆尽(内存溢出),导致程序崩溃,因此管理内存是一件重要且繁杂的事情,而python解释器自带的垃圾回收机制把程序员从繁杂的内存管理中解放出来。
四、垃圾回收机制原理
Python的GC模块主要运用了“引用计数”(reference counting)来跟踪和回收垃圾。在引用计数的基础上,还可以通过“标记-清除”(mark and sweep)解决容器对象可能产生的循环引用的问题,并且通过“分代回收”(generation collection)以空间换取时间的方式来进一步提高垃圾回收的效率。
1、引用计数
引用计数就是:变量值被变量名关联的次数
如:age=18
变量值18被关联了一个变量名age,称之为引用计数为1
引用计数增加:
age=18 (此时,变量值18的引用计数为1)
m=age (把age的内存地址给了m,此时,m,age都关联了18,所以变量值18的引用计数为2)
引用计数减少:
age=10(名字age先与值18解除关联,再与3建立了关联,变量值18的引用计数为1)
del m(del的意思是解除变量名x与变量值18的关联关系,此时,变量18的引用计数为0)
值18的引用计数一旦变为0,其占用的内存地址就应该被解释器的垃圾回收机制回收。
引用计数扩展:
变量值被关联次数的增加或减少,都会引发引用计数机制的执行(增加或减少值的引用计数),这存在明显的效率问题。如果说执行效率还仅仅是引用计数机制的一个软肋的话,那么很不幸,引用计数机制还存在着一个致命的弱点,即循环引用(也称交叉引用)
循环引用会导致:值不再被任何名字关联,但是值的引用计数并不会为0,应该被回收但不能被回收,什么意思呢?试想一下,请看如下操作
此时,只剩下列表1与列表2之间的相互引用,两个列表的引用计数均不为0,但两个列表不再被任何其他对象关联,没有任何人可以再引用到它们,所以它俩占用内存空间应该被回收,但由于相互引用的存在,每一个对象的引用计数都不为0,因此这些对象所占用的内存永远不会被释放,所以循环引用是致命的,这与手动进行内存管理所产生的内存泄露毫无区别。 所以Python引入了“标记-清除” 与“分代回收”来分别解决引用计数的循环引用与效率低的问题。
2、标记-清除
容器对象(比如:list,set,dict,class,instance)都可以包含对其他对象的引用,所以都可能产生循环引用。而“标记-清除”计数就是为了解决循环引用的问题。
在了解标记清除算法前,我们需要明确一点,关于变量的存储,内存中有两块区域:堆区与栈区,在定义变量时,变量名与值内存地址的关联关系存放于栈区,变量值存放于堆区,内存管理回收的则是堆区的内容,详解如下图,
定义了两个变量x = 10、y = 20
当我们执行x=y时,内存中的栈区与堆区变化如下
标记/清除算法的做法是当应用程序可用的内存空间被耗尽的时,就会停止整个程序,然后进行两项工作,第一项则是标记,第二项则是清除
#1、标记
通俗地讲就是:标记的过程就行相当于从栈区出发一条线,“连接”到堆区,再由堆区间接“连接”到其他地址,凡是被这条自栈区起始的线连接到内存空间都属于可以访达的,会被标记为存活
具体地:标记的过程其实就是,遍历所有的GCRoots对象(栈区中的所有内容或者线程都可以作为GCRoots对象),然后将所有GCRoots的对象可以直接或间接访问到的对象标记为存活的对象,其余的均为非存活对象,应该被清除。
#2、清除
清除的过程将遍历堆中所有的对象,将没有标记存活的对象全部清除掉。
直接引用指的是从栈区出发直接引用到的内存地址,间接引用指的是从栈区出发引用到堆区后再进一步引用到的内存地址,以我们之前的两个列表l1与l2为例画出如下图像
当我们同时删除l1与l2时,会清理到栈区中l1与l2的内容
这样在启用标记清除算法时,发现栈区内不再有l1与l2(只剩下堆区内二者的相互引用),于是列表1与列表2都没有被标记为存活,二者会被清理掉,这样就解决了循环引用带来的内存泄漏问题。
3、分代回收
背景:
基于引用计数的回收机制,每次回收内存,都需要把所有对象的引用计数都遍历一遍,这是非常消耗时间的,于是引入了分代回收来提高回收效率,分代回收采用的是用“空间换时间”的策略。
分代:
分代回收的核心思想是:在历经多次扫描的情况下,都没有被回收的变量,gc机制就会认为,该变量是常用变量,gc对其扫描的频率会降低,具体实现原理如下:
分代指的是根据存活时间来为变量划分不同等级(也就是不同的代)。
新定义的变量,放到新生代这个等级中,假设每隔1分钟扫描新生代一次,如果发现变量依然被引用,那么该对象的权重(权重本质就是个整数)加一,当变量的权重大于某个设定得值(假设为3),会将它移动到更高一级的青春代,青春代的gc扫描的频率低于新生代(扫描时间间隔更长),假设5分钟扫描青春代一次,这样每次gc需要扫描的变量的总个数就变少了,节省了扫描的总时间,接下来,青春代中的对象,也会以同样的方式被移动到老年代中。也就是等级(代)越高,被垃圾回收机制扫描的频率越低
回收:
回收依然是使用引用计数作为回收的依据
虽然分代回收可以起到提升效率的效果,但也存在一定的缺点:
#例如一个变量刚刚从新生代移入青春代,该变量的绑定关系就解除了,该变量应该被回收,但青春代的扫描频率低于新生代,所以该变量的回收就会被延迟。
五、GC模块的使用
①sys.getrefcount(对象)
查看对象的引用计数值,但比正常计数值大于1,因为调用函数时会将实参的地址复制给形参从而导致形参也引用了对象,所以这会让对象的引用计数+1。
②gc.enable()
启用自动垃圾回收。
③gc.disable()
关闭GC垃圾自动回收机制
④gc.collect(代)
如果不加参数会对0、1、2即所有代中的内存块对象进行垃圾检测回收
0:表示只对0代进行垃圾检测回收
1:表示只对1代进行垃圾检测回收
2:表示只对2代进行垃圾检测回收
⑤gc.get_count( )
获取程序当前回收计数值如:(166, 2, 3)
个人理解:
- 其中166表示目前0代中剩余的内存对象数量
- 2表示0代垃圾回收检测了几次。即在1代垃圾检测之后其值会重置为0,之后每当0代执行一次垃圾检测后其值就会累加+1,当累加的数量达到gc.get_threshold()返回的第二个元素数之后,解释器就会对1代中的所有内存对象进行垃圾检测回收。然后再将其值重置为0,然后再重新记录0代被垃圾回收检测的次数。
- 3表示1代垃圾回收检测了几次。当1代垃圾回收检测了gc.get_threshold()返回的第3个参数的次数之后,解释器就会对2代进行一次垃圾检测回收,然后再将其值重置为0。之后再重新计录1代垃圾回收检测的次数。
⑥gc.set_threshold(垃圾回收频率)
设置各代垃圾回收检测的阈值。如:(50,2,3)。
- 50: 表示0代内存对象数达到50之后对0代进行垃圾回收检测。这会将0代内所有内存对象进行清空(通过垃圾删除、使用的内存移动到下一代)。
- 2:表示0代垃圾回收检测2之后会对1代进行垃圾回收检测。
- 3:表示1代垃圾回收检测3次之后会对2代进行垃圾回收检测。在2代中只会对垃圾进行清除而不会对使用的内存对象进行下一代移动。
⑦gc.get_threshold()---------将当前回收阈值以形为 (threshold0, threshold1, threshold2) 的元组返回。
设置代的垃圾回收阈值,默认返回值为(700,10,10)。
- 700: 0代内存对象数量达到此值后,垃圾回收器就会对0代进行垃圾回收检测。即将0代内的垃圾(没有直接引用的内存对象)进行清除,将还在使用的内存对象移动到下一代中。因此对0代进行垃圾回收之后,0代的内存对象数量会变为0。
- 第二参数10:表示0代垃圾检测次数。当0代垃圾检测次数达到此值后就会对1代进行垃圾回收检测。
- 第三参数10:表示1代垃圾检测次数。当1代垃圾检查次数达到此值后,垃圾回收器就会对2代进行垃圾回收检测。即将2代中不在使用的内存进行释放清除。
有三种情况会触发垃圾回收:
1、当gc模块中的计数器达到规定阈值时,自动回收垃圾。
2、调用gc.collect()函数手动释放垃圾内存
3、程序运行结束时,python解释器会自动释放垃圾内存。
注意: 对于类实例对象间循环引用,如果各实例对象都定义了__del__( )魔术方法,则GC不会对其循环引用的内存对象进行释放。因为gc模块不知道应该先调用哪个对象的__del__方法,因此GC干脆就不对“循环引用+__del__( )”方法的实例对象垃圾进行释放,而是将其保存到gc.garbage( )返回的对象中。如果要删除此种场景下的实例对象垃圾,需要通过gc.gerbage( )来显式的调用实例对象中的__del__()方法来释放循环引用的实例对象。所以项目中要避免定义__del__( )方法。
六、内存优化
在做开发的时候有一些整数需要频繁的使用,那么这样以来一些整数就需要频繁的创建和销毁,在此过程中势必会降低解释器的运行速度问题。因此为了解决此问题,Python就提前为一些频繁使用的整数即小整数池,申请了内存空间,用户直接通过变量名去引用这些保存在内存中的整数就可以了,这些小整数的内存空间不会被垃圾回收释放掉。
小整数范围:[-5,156]
小整数池和大整数池的区别:
- 从结果上看小整数和大整数是一样的,即不会被垃圾回收释放掉。
- 小整数池是由解释器提前为[-5,156]申请好的内存空间;而大整数池是在开发者定义使用整数的时候才申请的内存空间,然后将整数保存到大整数池内存空间中,之后就无需创建直接拿来用就可以了。
@声明:“山月润无声”博主知识水平有限,以上文章如有不妥之处,欢迎广大IT爱好者指正,小弟定当虚心受教!