网络爬虫学习笔记(一)——Requests库入门

安装requests库

pip install requests

建议换国内源

r = requets.get(url)

  • 构造一个向服务器请求资源的Requests对象,get()函数返回一个包含服务器资源的Response对象

  • Response对象包含爬虫返回的内容,重要

  • Response对象的属性
    在这里插入图片描述

  • r.encoding:如果header中不存在charset,则认为编码为ISO-8859-1

  • r.apparent_encoding:根据网页内容分析出的编码方式,要比r.encoding更为准确

通常,可以通过r.status_code的结果作为判断,如果返回200,则可以用

r.text
r.enconding 
r.apparent_encoding 
r.content

来解析返回的对象中信息,否则404或其他则说明某些原因出错将产生异常

通用代码框架

try:
	r = requests.get(url, timeout=30)
	r.rasise_for_status()
	r.encoding = r.apparent_encoding
	return r.text
except:
	return "产生异常"
  • 完整格式
requests.get(url, params=None, **kwargs)

url:获取页面的url链接
param:url中的额外参数,字典或字节流格式,可选
**kwargs:12个控制访问的参数

Requests库的异常在这里插入图片描述

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值