Requests库入门

爬取网页通用代码框架:
try:
r = requests.get(url,timeout=30)
r.raise_for_status() #如果返回的状态码不是200,引发HTTPErrow异常
r.enconding = r.apparent_encoding
return r.text
except:
return "产生异常"

1.
r = requests.get(url,params=None,**kwargs) #获取网页信息的主要方法
url:拟获取页面的url链接
params:url中的额外参数,字典或字节流格式,可选
**kwargs:12个控制访问参数,可选
r:包含爬虫返回的全部对象

2.
r.status_code:检测请求的状态码,如果状态吗是200访问成功,否则失败
r.encoding:从HTTP header中猜测的响应内容编码方式
如果header中不存在charset,则认为编码为ISO-8859-1,这样的编码不能解析中文
r.apparent_encoding:从内容中分析出的响应内容编码方式
r.text:HTTP响应内容的字符串形式,即url对应的页面内容

3.
用get方法获取网络资源流程:
用r.status_code检查他的Respense对象的状态
if 200:
r.text r.encoding r.apparent_encoding 等解析反回内容
else:
某些原因出错将产生异常

4.
r = requests.head(url) #获取网页资源概要信息

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值