在学习分布式爬虫时,遇到已下报错:
在网上搜了下,普遍都是这一种解决办法,降Process.start()改成Process.run(),试了一下,确实不再报错,但是同时也不是多线程。参考文章:https://blog.csdn.net/weixin_42081389/article/details/93172508
继续搜索,终于找到不一样,
原来是queue.Queue 这个数据类型不支持多线程,将此队列改成multiprocessing中的Queue队列即可解决问题
在学习分布式爬虫时,遇到已下报错:
在网上搜了下,普遍都是这一种解决办法,降Process.start()改成Process.run(),试了一下,确实不再报错,但是同时也不是多线程。参考文章:https://blog.csdn.net/weixin_42081389/article/details/93172508
继续搜索,终于找到不一样,
原来是queue.Queue 这个数据类型不支持多线程,将此队列改成multiprocessing中的Queue队列即可解决问题