monkey.patch_all()处理多线程问题

开多线程时monkey会阻塞住线程的继续执行,需要对monkey.patch_all进行处理,解决方案有2种: 
1. monkey.patch_all(thread=False) 
2. 直接用gevent.sleep()

from bs4 import BeautifulSoup
import requests
import gevent
import time
from gevent import monkey, pool
from threading import Thread

monkey.patch_all()

jobs = []
links = []
p = pool.Pool(10)

url = [
    'http://www.baidu.com',


]


def get_links(url):
    # time.sleep(2)
    r = requests.get(url)
    if r.status_code == 200:
        soup = BeautifulSoup(r.text, 'lxml')
        print('>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>')
        links + soup.find_all('a')


def start_process():
    time.sleep(2)
    # for url in urls:
    #     jobs.append(p.spawn(get_links, url))
    # gevent.joinall(jobs)


if __name__ == '__main__':
    t = Thread(target=start_process, )
    t.start()
    t.join()


上面的例子会卡住,具体解释见StackOverflow链接~
 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值