requests
库是一个常用的用于http
请求的模块,它使用python
语言编写,可以方便的对网页进行爬取,是学习python
爬虫的较好的http请求模块。
一、 requests模块的安装
首先我们要继续requests模块的安装。
1、 pip命令安装
- windows系统下只需要在命令行输入命令 pip install requests 即可安装
- 在 linux 系统下,只需要输入命令 sudo pip install requests ,即可安装。
2、下载安装包安装
由于pip
命令可能安装失败所以有时我们要通过下载第三方库文件来进行安装。
在github
上的地址为:https://github.com/requests/requests
下载文件到本地之后,解压到python
安装目录。
之后打开解压文件,在此处运行命令行并输入:python setup.py install
即可。
之后我们测试requests
模块是否安装正确,在交互式环境中输入 import requests
如果没有任何报错,说明requests
模块我们已经安装成功了
二、requests模块的使用方法
1、requests库的七个主要方法
方法 | 解释 |
---|---|
requests.request() | 构造一个请求,支持以下各种方法 |
requests.get() | 获取html的主要方法 |
requests.head() | 获取html头部信息的主要方法 |
requests.post() | 向html网页提交post请求的方法 |
requests.put() | 向html网页提交put请求的方法 |
requests.patch() | 向html提交局部修改的请求 |
requests.delete() | 向html提交删除请求 |
(1)requests.get()
这个方法是我们平时最常用的方法之一,通过这个方法我们可以了解到其他的方法,所以我们详细介绍这个方法。
具体参数是:
r=requests.get(url,params,**kwargs)
- url: 需要爬取的网站地址。
- params: 翻译过来就是参数, url中的额外参数,字典或者字节流格式,可选。
- **kwargs : 12个控制访问的参数
我们先来讲讲**kwargs:
**kwargs有以下的参数,对于requests.get,其第一个参数被提出来了。
-
- params:字典或字节序列, 作为参数增加到url中,使用这个参数可以把一些键值对以?key1=value1&key2=value2的模式增加到url中
例如:kv = {'key1':' values', 'key2': 'values'}
r = requests.get('http:www.python123.io/ws', params=kw) - data:字典,字节序或文件对象,重点作为向服务器提供或提交资源是提交,,作为request的内容,与params不同的是,data提交的数据并不放在url链接里, 而是放在url链接对应位置的地方作为数据来存储。,它也可以接受一个字符串对象。
- json:json格式的数据, json合适在相关的html,http相关的web开发中非常常见, 也是http最经常使用的数据格式, 他是作为内容部分可以向服务器提交。
- params:字典或字节序列, 作为参数增加到url中,使用这个参数可以把一些键值对以?key1=value1&key2=value2的模式增加到url中