python网络请求的库_网络请求urllib库的基本使用 ----------python的爬虫学习

简单的网络请求：

from urllib import request

url = "http://www.baidu.com"

rep=request.urlopen(url)

urlopen请求数据，返回给了变量rep

对返回数据的操作：

urlopen()返回的结果是类文件对象，也是可迭代的，下面列举出比较常用的方法

read()、readline()、readlines() ：读取文件

rep = request.urlopen(url)

rep.read()

【Squeezed text】

rep.readline()

b'\n'

rep.readlines()

【Squeezed text】

info()：返回头信息

print(rep.info())

Date: Sat, 27 Jul 2019 03:32:18 GMT

Content-Type: text/html

Transfer-Encoding: chunked

Connection: Close

Vary: Accept-Encoding

Set-Cookie: BAIDUID=71F5315626EBFC522CD27C212E0BDC71:FG=1; expires=Thu, 31-Dec-37 23:55:55 GMT; max-age=2147483647; path=/; domain=.baidu.com

Set-Cookie: BIDUPSID=71F5315626EBFC522CD27C212E0BDC71; expires=Thu, 31-Dec-37 23:55:55 GMT; max-age=2147483647; path=/; domain=.baidu.com

#太多了省略.......

getcode()：返回http状态码

print(rep.getcode())

200

geturl()：返回url

print(rep.geturl())

http://www.baidu.com

urllib中内置了一个方法使保存网页数据更加方便

from urllib.request import urlretrieve

url = "http://www.baidu.com"

urlretrieve(url,r'D:/baidu.html')

上面代码等同于

from urllib import request

request.urlretrieve("http://www.baidu.com",r"D:/baidu.html")

('D:/baidu.html', )

urlretrieve(url, filename=None, reporthook=None, data=None)

url: 文件url

filename: 保存到本地时,使用的文件(路径)名称

reporthook: 文件传输时的回调函数,常用于显示进度条

data: post提交到服务器的数据

该方法返回一个二元元组("本地文件路径",)