Python任意进程共享内存
以下实验与操作在Linux系统有效,windows不清楚。
当进程1创建了一个共享内存对象:
from multiprocessing import shared_memory
shm = shared_memory.SharedMemory(name="abc",create=True, size=10)
...
会在/dev/shm下创建一个共享内存文件:
# ls /dev/shm|grep abc
abc
/dev/shm是OS级别的共享内存机制,因此该共享内存是可以跨任何进程和跨语言的。
创建进程2连接到这块共享内存中:
from multiprocessing import shared_memory
shm = shared_memory.SharedMemory(name="abc",create=False)
...
进程2就可以使用这块共享内存了。
此时会遇到一个问题:即使进程2没有调用unlink方法,但退出时resource_tracker还是会将共享内存释放掉,同时报一个警告,导致进程1和其他进程用不了这块共享内存了:
resource_tracker.py:216: UserWarning: resource_tracker: There appear to be 1 leaked shared_memory objects to clean up at shutdown warnings.warn('resource_tracker: There appear to be %d ')
此时查看共享内存,发现已经被删除了:
# ls /dev/shm|grep abc
解决办法:将这块共享内存从resource_tracker中取消注册,进程2退出之后就不会释放掉进程1创建的共享内存了
from multiprocessing import shared_memory, resource_tracker
shm = shared_memory.SharedMemory(name="abc",create=False)
resource_tracker.unregister("abc", 'shared_memory')
...
尽量保证多进程中至少有一个进程不做这个操作,不然会有内存泄漏的风险
参考: