【Python爬虫】爬虫利器 requests 库小结,自学者福利

3. 主要的使用方法


3.1 requests.request(method, url, **kwargs)

  • method 设置请求方式(get、post、put、head、patch、delete)

  • url 设置请求地址

  • kwargs 控制访问参数

request 方法中各方法的参数与以下相应的方法相同。

3.2 requests.get(url, params=None, **kwargs)

  • url 设置请求地址。一般地址中问号后面的可以省略,问号后面的即是请求参数。

  • params 设置发送请求时所带的参数,字典或字节流格式,作为额外参数连接到url中(问号后的部分)。可选

  • kwargs 控制访问参数,见 kwargs参数表。可选

发送请求:

url = ‘https://blog.csdn.net/weixin_52132159’ # 我的博客主页

#url = ‘https://blog.csdn.net/weixin_52132159?spm=1019.2139.3001.5343’

headers = {

‘cookie’: ‘…’,

‘Referer’: ‘…’

}

params = {‘spm’: ‘1019.2139.3001.5343’}

response = requests.get(url, headers=headers, params=params) # 发送请求

3.3 requests.post(url, data=None, json=None, **kwargs)

  • url 设置请求地址

  • data 为字典、字节序列或文件对象,作为请求的内容,向服务器提交资源时使用,可选

  • json 为 JSON格式的数据,作为内容向服务器提交。可选

  • kwargs 控制访问参数,见 kwargs参数表。可选

发送请求:

url = ‘https://fanyi.so.com/index/search’ # 360翻译

headers = {

‘pro’: ‘fanyi’

}

data = {

‘eng’: 0, # 是否从英文转中文

‘query’: ‘你好’ # 翻译的单词

}

response = requests.post(url, headers=headers, data=data) # 发送请求

3.4 requests.Session

Session 方法可以实现回话,持续性地发送requests请求,能够跨请求保持cookie。

经实例化后,可用 get、post 等方法发送请求,用法不变。

示例:

response = requests.Session()

response.post(‘https://fanyi.so.com/index/search’)

response.get(‘https://blog.csdn.net/weixin_52132159’)

3.4 其他

  • requests.put(url, data=None, **kwargs)

  • requests.head(url, **kwargs)

  • requests.patch(url, data=None, **kwargs)

  • requests.delete(url, **kwargs)

其他的方法使用过程与 get 与 post 类似,都有着kwargs参数表 中的参数,依实际情况选择使用。

4. kwargs 参数表


| 参数 | 说明 |

| — | — |

| params | 送请求时所带的参数,字典或字节流格式,作为额外参数连接到url中 |

| data | 字典、字节序列或文件对象,作为requests的内容,向服务器提交资源时使用 |

| json | JSON格式的数据,作为内容向服务器提交 |

| headers | 字典类型,请求头 |

| cookies | 字典或 CookieJar 对象,从HTTP协议中解析 cookie。字典形式的 cookie 也可放入 headers中 |

| auth | 元组类型,支持HTTP认证功能 |

| files | 字典类型,向服务器传输文件时使用 |

| timeout | 设定等待响应的时间,单位为秒 |

| proxies | 字典类型,设定访问代理服务器 |

| allow_redirects | 布尔类型,默认为True,重定向开关 |

| stream | 布尔类型,默认为True,判断是否对获取内容立即下载 |

| verify | 布尔类型,默认为True,认证SSL证书的开关 |

| cert | 保存本地SSL证书路径的字段 |

参考文章:https://blog.csdn.net/qq_43406976/article/details/104538316

5. 响应内容


发送请求后,返回的是一个 response 对象。我们可以通过该对象的属性和方法获取返回内容。

| 方法或属性 | 说明 |

| — | — |

| response.url | 返回请求的URL |

| response.text | 返回headers中的编码解析的结果,可以通过r.encoding='gbk’来变更解码方式 |

| response.content | 返回二进制结果 |

| response.status_code | 返回响应码,如200、404等 |

| response.headers | 返回请求头 |

| response.cookies | 返回一个RequestsCookieJar对象 |

| response.history | 返回以列表存储的请求历史记录 |

| response.json() | 返回返回结果经json解码后的内容,一般返回一个字典(这是个方法,要带括号) |

6. 使用格式示例


6.1 爬取360翻译(POST)

学好 Python 不论是就业还是做副业赚钱都不错,但要学会 Python 还是要有一个学习规划。最后大家分享一份全套的 Python 学习资料,给那些想学习 Python 的小伙伴们一点帮助!

一、Python所有方向的学习路线

Python所有方向路线就是把Python常用的技术点做整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。

二、学习软件

工欲善其事必先利其器。学习Python常用的开发软件都在这里了,给大家节省了很多时间。

三、全套PDF电子书

书籍的好处就在于权威和体系健全,刚开始学习的时候你可以只看视频或者听某个人讲课,但等你学完之后,你觉得你掌握了,这时候建议还是得去看一下书籍,看权威技术书籍也是每个程序员必经之路。

四、入门学习视频

我们在看视频学习的时候,不能光动眼动脑不动手,比较科学的学习方法是在理解之后运用它们,这时候练手项目就很适合了。

五、实战案例

光学理论是没用的,要学会跟着一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。

六、面试资料

我们学习Python必然是为了找到高薪的工作,下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料,并且有阿里大佬给出了权威的解答,刷完这一套面试资料相信大家都能找到满意的工作。

小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。

深知大多数初中级Python工程师,想要提升技能,往往是自己摸索成长或者是报班学习,但自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!

因此收集整理了一份《2024年Python爬虫全套学习资料》送给大家,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。

由于文件比较大,这里只是将部分目录截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频

如果你觉得这些内容对你有帮助,可以添加下面V无偿领取!(备注:python)
img

**

深知大多数初中级Python工程师,想要提升技能,往往是自己摸索成长或者是报班学习,但自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!

因此收集整理了一份《2024年Python爬虫全套学习资料》送给大家,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。

由于文件比较大,这里只是将部分目录截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频

如果你觉得这些内容对你有帮助,可以添加下面V无偿领取!(备注:python)
[外链图片转存中…(img-w9HjDOL4-1710988907263)]

  • 3
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值