【导读】记录学习爬虫的过程
【主题】Python爬虫之自动创建请求对象
from urllib import request
import re
url = r'http://www.baidu.com/'
#创建自定义请求对象
req = request.Request(url)
pat = r'<title>(.*?)</title>'
#发送请求
reponse = request.urlopen(req ).read().decode()
data = re.findall(pat,reponse)
print(data[0])
#输出
#百度一下,你就知道
【分析】
1.当直接使用 request方法时时,request会自动创建请求对象,然后对象发送请求,获取详细信息。缺点在于自动创建的对象无法进行二次封装;
2.自定义请求对象方式:req = request.Request(url),自定义的request中还可以存放HTTP请求头User-Agent等信息。见下一节。