python 内存性能问题/ profile / sys.getsizeof

 

python 内存占用的性能问题

原创： 卢旭泽 PythonicPython 2018-12-21

1, 首先介绍一个检测python进程内存消耗信息的库 memory_profiler, 用它可以查看一个函数在执行过程中每一行所消耗的内存信息。也可以很方便的看出内存泄漏的问题。

以装饰器的形式加载function上面就可以监控进程的内存信息，

例如a.py

从下图中看出每条语句执行过程中过的内存变化情况，可以看到对象a 被销毁的时候，有明显的内存下降

2，python 的sys模块中还有一个function可以查看某个对象所占用的内存大小 sys.getsizeof()

例如

运行这段代码：

 

经验总结：

 

系统在进行进程调度的时候会消耗系统资源，如果存在大量的进程的时候，就要考虑是选择用多线程实现还是多进程实现。多线程是一种轻量级的并发方法，但多线程有个致命的缺陷就是当一个线程crash之后，主线程也会死掉，还有就是python GIL全局锁的存在，使多线程只能并发不能并行。而多进程却不同，子进程crash之后不会影响其他进程，而且cpu内核越多，多进程性能越好。

本人公众号：