做爬虫你不会不知道Grequests库吧?(异步请求)

grequests如何安装呢?

Shell
pip install <span class="wp_keywordlink_affiliate"><a href="https://www.168seo.cn/tag/grequests" title="View all posts in grequests" target="_blank">grequests</a></span>
1
pip install grequests
Python
# -*- coding: utf-8 -*- """ @Time: 2018/1/21 @Author: songhao @微信公众号: zeropython @File: Requests_Gevent.py "" [code lang="<span class="wp_keywordlink"><a href="http://www.168seo.cn/python" title="python">python</a></span>"] import grequests import json # 构建urls urls = ["http://lab.crossincode.com/recite/chap?c={}".format(x) for x in range(1, 11)] # 请求队列,还未发出请求 rs = (grequests.get(u) for u in urls) # 批量发出请求,得到响应的列表resps resps = grequests.map(rs) def get_words(ht): dc = json.loads(ht) print(dc['voca']) for resp in resps: # 解析出单词的信息。 get_words(resp.text)
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
# -*- coding: utf-8 -*-
"" "
@Time: 2018/1/21
@Author: songhao
@微信公众号: zeropython
@File: Requests_Gevent.py
" "
 
[code lang=" python "]
import grequests
import json
 
# 构建urls
urls = [" http : / / lab . crossincode . com / recite / chap ? c = { }" . format ( x ) for x in range ( 1 , 11 ) ]
 
# 请求队列,还未发出请求
rs = ( grequests . get ( u ) for u in urls )
 
# 批量发出请求,得到响应的列表resps
resps = grequests . map ( rs )
 
 
def get_words ( ht ) :
     dc = json . loads ( ht )
     print ( dc [ 'voca' ] )
 
 
for resp in resps :
     # 解析出单词的信息。
     get_words ( resp . text )

查看结果:




  • zeropython 微信公众号 5868037 QQ号 5868037@qq.com QQ邮箱
  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值