urllib库是python中一个最基本的网络请求库。可以模拟浏览器的行为,向指定的服务器发送一个请求,并可以保存服务器返回的数据。
urlopen函数:
在python3的urllib库中,所有和网络请求相关的方法都被集到urllib.request模块下面了,下面是urlopen函数基本的使用:
from urllib import request
resp = request.urlopen('http://www.baidu.com')
print(resp.read())
实际上,使用浏览器访问百度,右键查看源代码。会发现,跟上面打印出来的数据时一样的。也就是说上面的三行代码已经将百度的首页全部代码爬下来了。一个基本的url请求对应的python代码真的非常简单。
以下对urlopen函数进行详细讲解:
1.url:请求的url
2.data:请求的data,如果设置了这个值,那么将变成post请求。
3.返回值:返回值是一个http.client.HTTPResponse对象,这个对象是一个类文件句柄对象。有read(size)、readline、readlines以及getcode等方法。