requests库

requests 爬虫应用一般使用两种方法:
1.requests.get(url,**k) 获取网页
2.requests.header(url,**k) 获取网页头信息
HTTP 基于请求与响应、无状态的应用层协议,使用url为HTTP定位网络资源的标志,k为控制访问可选参数,有

params字典或字节序列,作为参数加入到URL中
data字典、字节序列或文件对象,作为Request的内容
proxies字典类型,设定访问代理服务器,可以增加登录认证
timeout设定超时时间,秒为单位
jsonJSON格式的数据,作为Request的内容
files字典类型,传输文件
headers字典,HTTP定制头

request库中有两个重要对象,reponse 和request

reponse对象包含爬虫返回的内容,有很多属性:
r.status_code() 爬取成功还是失败,成功返回200,失败返回404或者其他,用于对编程的稳定性进行维护
r.text() 爬取的内容 ,一般指定[:1000]或者[-500:]来进行显示,防止出现错误
r.encoding() 由header猜测得到的编码方式
r.apparent_encoding() 由内容解析得到的编码方式
一般使用r.encoding=r.apparent_encoding()进行编码,错误率比较小
r.content() 以二进制形式返回

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值