在使用真格量化时,一些用户希望了解如何来提高系统性能。通过了解Python的内存管理和垃圾回收机制,我们可以有针对性地去提高策略代码性能。
Python内存管理机制
Python的内存管理机制:引入计数、垃圾回收、内存池机制
一、变量与对象
关系图如下:
1、变量,通过变量指针引用对象
变量指针指向具体对象的内存空间,取对象的值。
2、对象,类型已知,每个对象都包含一个头部信息(头部信息:类型标识符和引用计数器)
变量名没有类型,类型属于对象(因为变量引用对象,所以类型随对象),变量引用什么类型的对象,变量就是什么类型的。
我们可以用id函数来检查变量是否使用了同一内存空间。id()是python的内置函数,用于返回对象的身份,即对象的内存地址。
当我们改变第一个例子中的var1的赋值时,var1地址变化,而var2地址保持不变:
3、引用所指判断
我们可以通过is进行引用所指判断,is是用来判断两个引用所指的对象是否相同。
整数:
短字符串:
长字符串,注意长字符串就开始不同了:
列表,即使是空列表和含有相同元素的列表都指向不同的对象:
由这些比较结果可知:
1、Python缓存了整数和短字符串,因此每个对象在内存中只存有一份,引用所指对象就是相同的,即使使用赋值语句,也只是创造新的引用,而不是对象本身;
2、Python没有缓存长字符串、列表及其他对象,可以有多个值相同的对象,可以使用赋值语句创建出新的对象。
二、引用计数
在Python中,每个对象都有指向该对象的引用总数---称为“引用计数”。
查看对象的引用计数:sys.getrefcount()
1、普通引用
我们可以通过getrefcount来查询对象的引用计数。注意,当使用某个引用作为参数,传递给getrefcount()时,参数实际上创建了一个临时的引用。因此,getrefcount()所得到的结果,总会比期望的多1。
2、容器对象
Python的一个容器对象(比如:表、词典等),可以包含多个对象。实际上,容器对象中包含的并不是元素对象本身,是指向各个元素对象的引用。
3、引用计数增加
1、对象被创建
2、用已有对象创建新的对象
3、作为容器对象的一个元素
4、被作为参数传递给函数:foo(x)
4、引用计数减少
1、对象的别名被显式的销毁
2、对象的一个别名被赋值给其他对象
3、对象从一个窗口对象中移除,或,窗口对象本身被销毁
4、一个本地引用离开了它的作用域,比如上面的foo(x)函数结束时,x指向的对象引用减1。
三、垃圾回收
当Python中的对象越来越多,占据越来越大的内存,系统会启动垃圾回收(garbage collection),将没用的对象清除。
1、原理
当Python的某个对象的引用计数降为0时,说明没有任何引用指向该对象,该对象就成为要被回收的垃圾。比如某个新建对象,被分配给某个引用,对象的引用计数变为1。如果引用被删除,对象的引用计数为0,那么该对象就可以被垃圾回收。
2、解析del
del a后,已经没有任何引用指向之前建立的[321,123],该表引用计数变为0,用户不可能通过任何方式接触或者动用这个对象,当垃圾回收启动时,Python扫描到这个引用计数为0的对象,就将它所占据的内存清空。
3、注意
1、垃圾回收时,Python不能进行其它的任务,频繁的垃圾回收将大大降低Python的工作效率;
2、Python只会在特定条件下,自动启动垃圾回收(垃圾对象少就没必要回收)
3、当Python运行时,会记录其中分配对象(object allocation)和取消分配对象(object deallocation)的次数。当两者的差值高于某个阈值时,垃圾回收才会启动。
阈值分析:
700即是系统垃圾回收启动的阈值;
每10次0代垃圾回收,会配合1次1代的垃圾回收;而每10次1代的垃圾回收,才会有1次的2代垃圾回收;
当然也是可以手动启动垃圾回收:
4、何为分代回收
Python将所有的对象分为0,1,2三代;
所有的新建对象都是0代对象;
当某一代对象经历过垃圾回收,依然存活,就被归入下一代对象。
四、内存池机制
Python的内存池分为大内存和小内存:(256K为界限分大小内存)
1、大内存使用malloc进行分配
2、小内存使用内存池进行分配
3、Python的内存池(金字塔)
第3层:最上层,用户对Python对象的直接操作
第1层和第2层:内存池,有Python的接口函数PyMem_Malloc实现-----若请求分配的内存在1~256字节之间就使用内存池管理系统进行分配,调用malloc函数分配内存,但是每次只会分配一块大小为256K的大块内存,不会调用free函数释放内存,将该内存块留在内存池中以便下次使用。
第0层:大内存-----若请求分配的内存大于256K,malloc函数分配内存,free函数释放内存。
第-1,-2层:操作系统进行操作
我们可以使用的性能改进手段包括:
1.手动垃圾回收
2.避免循环引用(手动解循环引用和使用弱引用)
3.调高垃圾回收阈值
— — — — — — E N D — — — — — —
真格量化可访问:
https://quant.pobo.net.cn
真格量化微信公众号,长按关注:
遇到了技术问题?欢迎加入真格量化Python技术交流QQ群 726895887
往期文章:
Delta中性还不够?——看看如何设计Gamma中性期权策略
Python2和Python3的兼容写法
Python代码优化技巧
如何写出更好的Python代码?这是Python软件基金会的建议
需要处理大量市场数据?来了解一下MySQL、HBase、ES的特点和应用场景
NumPy中的ndarray与Pandas的Series和DataFrame之间的区别与转换