如果程序处理的数据比较多、比较复杂，那么在程序运行的时候，会占用大量的内存，当内存占用到达一定的数值，程序就有可能被操作系统终止，特别是在限制程序所使用的内存大小的场景，更容易发生问题。下面我就给出几个优化Python占用内存的几个方法。
说明：以下代码运行在Python3。
这里还要注意：不管你是为了Python就业还是兴趣爱好，记住：项目开发经验永远是核心，如果你没有2020最新python入门到高级实战视频教程，可以去小编的Python交流.裙 ：七衣衣九七七巴而五（数字的谐音）转换下可以找到了，里面很多新python教程项目，还可以跟老司机交流讨教！
举个栗子
我们举个简单的场景，使用Python存储一个三维坐标数据，x,y,z。
Dict
使用Python内置的数据结构Dict来实现上述例子的需求很简单。
123
>>> ob = {'x':1, 'y':2, 'z':3}>>> x = ob['x']>>> ob['y'] = y
查看以下ob这个对象占用的内存大小：
12
>>> print(sys.getsizeof(ob))240
简单的三个整数，占用的内存还真不少，想象以下，如果有大量的这样的数据要存储，会占用更大的内存。
数据量占用内存大小
1 000 000
240 Mb
10 000 000
2.40 Gb
100 000 000
24 Gb
Class
对于喜欢面向对象编程的程序员来说，更喜欢把数据包在一个class里。使用class使用同样需求：
12345678
class Point:#def __init__(self, x, y, z):self.x = xself.y = yself.z = z>>> ob = Point(1,2,3)
class的数据结构和Dict区别就很大了，我们来看看这种情况下占用内存的情况：
字段占用内存
PyGC_Head
24
PyObject_HEAD
16
__weakref__
8
__dict__
8
TOTAL
56
关于 __weakref__（弱引用）可以查看这个文档， 对象的dict中存储了一些self.xxx的一些东西。从Python 3.3开始，key使用了共享内存存储， 减少了RAM中实例跟踪的大小。
12
>>> print(sys.getsizeof(ob), sys.getsizeof(ob.__dict__)) 56 112
数据量占用内存
1 000 000
168 Mb
10 000 000
1.68 Gb
100 000 000
16.8 Gb
可以看到内存占用量，class比dict少了一些，但这远远不够。
__slots__
从class的内存占用分布上，我们可以发现，通过消除dict和_weakref__，可以显着减少RAM中类实例的大小，我们可以通过使用slots来达到这个目的。
1234567891011
class Point:__slots__ = 'x', 'y', 'z'def __init__(self, x, y, z):self.x = xself.y = yself.z = z>>> ob = Point(1,2,3)>>> print(sys.getsizeof(ob))64
可以看到内存占用显著的减少了
字段内存占用
PyGC_Head
24
PyObject_HEAD
16
x
8
y
8
z
8
TOTAL
64
数据量占用内存
1 000 000
64Mb
10 000 000
640Mb
100 000 000
6.4Gb
默认情况下,Python的新式类和经典类的实例都有一个dict来存储实例的属性。这在一般情况下还不错，而且非常灵活，乃至在程序中可以随意设置新的属性。但是，对一些在”编译”前就知道有几个固定属性的小class来说，这个dict就有点浪费内存了。
当需要创建大量实例的时候，这个问题变得尤为突出。一种解决方法是在新式类中定义一个slots属性。
slots声明中包含若干实例变量，并为每个实例预留恰好足够的空间来保存每个变量；这样Python就不会再使用dict，从而节省空间。
那么用slot就是非非常那个有必要吗？使用slots也是有副作用的：
每个继承的子类都要重新定义一遍slots
实例只能包含哪些在slots定义的属性，这对写程序的灵活性有影响，比如你由于某个原因新网给instance设置一个新的属性，比如instance.a = 1, 但是由于a不在slots里面就直接报错了，你得不断地去修改slots或者用其他方法迂回的解决
实例不能有弱引用（weakref）目标，否则要记得把weakref放进slots
最后，namedlist和attrs提供了自动创建带slot的类，感兴趣的可以试试看。
Tuple
Python还有一个内置类型元组，用于表示不可变数据结构。 元组是固定的结构或记录，但没有字段名称。 对于字段访问，使用字段索引。 在创建元组实例时，元组字段一次性与值对象关联：
123
>>> ob = (1,2,3)>>> x = ob[0]>>> ob[1] = y # ERROR
元组的示例很简洁：
12
>>> print(sys.getsizeof(ob))72
可以看只比slot多8byte：
字段占用内存(bytes)
PyGC_Head
24
PyObject_HEAD
16
ob_size
8
[0]
8
[1]
8
[2]
8
TOTAL
72
Namedtuple
通过namedtuple我们也可以实现通过key值来访问tuple里的元素：
1
Point = namedtuple('Point', ('x', 'y', 'z'))
它创建了一个元组的子类，其中定义了用于按名称访问字段的描述符。 对于我们的例子，它看起来像这样:
1234567891011121314
class Point(tuple):#@propertydef _get_x(self):return self[0]@propertydef _get_y(self):return self[1]@propertydef _get_y(self):return self[2]#def __new__(cls, x, y, z):return tuple.__new__(cls, (x, y, z))
此类的所有实例都具有与元组相同的内存占用。 大量实例会留下稍大的内存占用：
数据量内存占用
1 000 000
72 Mb
10 000 000
720 Mb
100 000 000
7.2 Gb
Recordclass
python的第三方库recordclassd提供了一个数据结构recordclass.mutabletuple，它几乎和内置tuple数据结构一致，但是占用更少的内存。
12
>>> Point = recordclass('Point', ('x', 'y', 'z'))>>> ob = Point(1, 2, 3)
实例化以后，只少了PyGC_Head:
字段占用内存
PyObject_HEAD
16
ob_size
8
x
8
y
8
y
8
TOTAL
48
到此，我们可以看到，和slot比，又进一步缩小了内存占用：
数据量内存占用
1 000 000
48 Mb
10 000 000
480 Mb
100 000 000
4.8 Gb
Dataobject
recordclass提供了另外一个解决方法：在内存中使用与slots类相同的存储结构，但不参与循环垃圾收集机制。通过recordclass.make_dataclass可以创建出这样的实例：
1
>>> Point = make_dataclass('Point', ('x', 'y', 'z'))
另外一个方法是继承自dataobject
1234
class Point(dataobject):x:inty:intz:int
以这种方式创建的类将创建不参与循环垃圾收集机制的实例。 内存中实例的结构与slots的情况相同，但没有PyGC_Head：
字段内存占用(bytes)
PyObject_HEAD
16
x
8
y
8
y
8
TOTAL
40
123
>>> ob = Point(1,2,3)>>> print(sys.getsizeof(ob))40
要访问这些字段，还使用特殊描述符通过其从对象开头的偏移量来访问字段，这些对象位于类字典中：
12345
mappingproxy({'__new__': ,.......................................'x': ,'y': ,'z': })
数据量内存占用
1 000 000
40 Mb
10 000 000
400 Mb
100 000 000
4.0 Gb
Cython
有一种方法基于Cython的使用。 它的优点是字段可以采用C语言原子类型的值。例如：
1234567
cdef class Python:cdef public int x, y, zdef __init__(self, x, y, z):self.x = xself.y = yself.z = z
这种情况下，占用的内存更小：
123
>>> ob = Point(1,2,3)>>> print(sys.getsizeof(ob))32
内存结构分布如下:
字段内存占用(bytes)
PyObject_HEAD
16
x
4
y
4
y
4
пусто
4
TOTAL
32
数据量内存占用
1 000 000
32 Mb
10 000 000
320 Mb
100 000 000
3.2 Gb
但是，从Python代码访问时，每次都会执行从int到Python对象的转换，反之亦然。
Numpy
在纯Python的环境中，使用Numpy能带来更好的效果，例如:
1
>>> Point = numpy.dtype(('x', numpy.int32), ('y', numpy.int32), ('z', numpy.int32)])
创建初始值是0的数组：
1
>>> points = numpy.zeros(N, dtype=Point)
数据量内存占用
1 000 000
12 Mb
10 000 000
120 Mb
100 000 000
1.2 Gb
最后注意：不管你是为了Python就业还是兴趣爱好，记住：项目开发经验永远是核心，如果你没有2020最新python入门到高级实战视频教程，可以去小编的Python交流.裙 ：七衣衣九七七巴而五（数字的谐音）转换下可以找到了，里面很多新python教程项目，还可以跟老司机交流讨教！
可以看出，在Python性能优化这方面，还是有很多事情可以做的。Python提供了方便的同时，也需要暂用较多的资源。在不通的场景下，我需要选择不同的处理方法，以便带来更好的性能体验。
本文的文字及图片来源于网络加上自己的想法,仅供学习、交流使用,不具有任何商业用途,版权归原作者所有,如有问题请及时联系我们以作处理。
1万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
