参考链接:https://blog.csdn.net/weixin_41935140/article/details/81153611
在实现多进程时遇到这个问题:
class Scheduler(object):
def __init__(self):
self.redis = RedisClient()
def schedule_get(self):
g = getUrls()
g.main()
def schedule_parse(self):
p = parseUrl()
while True:
p.main()
def run(self):
test_jobs = Process(target=self.schedule_get)
test_jobs.start()
test_parse_job = Process(target=self.schedule_parse)
test_parse_job.start()
看到上述博客后,发现问题是:在实现多进程的类中,初始化了reids类,导致了该问题。
在实现多进程时尽量将方法,类封写进子函数或类中。
去掉初始化的redis类就没问题了。
class Scheduler(object):
def schedule_get(self):
g = getUrls()
g.main()
def schedule_parse(self):
p = parseUrl()
while True:
p.main()
def run(self):
test_jobs = Process(target=self.schedule_get)
test_jobs.start()
test_parse_job = Process(target=self.schedule_parse)
test_parse_job.start()