【Python爬虫】爬虫利器 requests 库小结,字节跳动+阿里+华为+腾讯等大厂Python面试题

}

data = {

‘eng’: 0, # 是否从英文转中文

‘query’: ‘你好’ # 翻译的单词

}

response = requests.post(url, headers=headers, data=data) # 发送请求

3.4 requests.Session

Session 方法可以实现回话,持续性地发送requests请求,能够跨请求保持cookie。

经实例化后,可用 get、post 等方法发送请求,用法不变。

示例:

response = requests.Session()

response.post(‘https://fanyi.so.com/index/search’)

response.get(‘https://blog.csdn.net/weixin_52132159’)

3.4 其他

  • requests.put(url, data=None, **kwargs)

  • requests.head(url, **kwargs)

  • requests.patch(url, data=None, **kwargs)

  • requests.delete(url, **kwargs)

其他的方法使用过程与 get 与 post 类似,都有着kwargs参数表 中的参数,依实际情况选择使用。

4. kwargs 参数表


| 参数 | 说明 |

| — | — |

| params | 送请求时所带的参数,字典或字节流格式,作为额外参数连接到url中 |

| data | 字典、字节序列或文件对象,作为requests的内容,向服务器提交资源时使用 |

| json | JSON格式的数据,作为内容向服务器提交 |

| headers | 字典类型,请求头 |

| cookies | 字典或 CookieJar 对象,从HTTP协议中解析 cookie。字典形式的 cookie 也可放入 headers中 |

| auth | 元组类型,支持HTTP认证功能 |

| files | 字典类型,向服务器传输文件时使用 |

| timeout | 设定等待响应的时间,单位为秒 |

| proxies | 字典类型,设定访问代理服务器 |

| allow_redirects | 布尔类型,默认为True,重定向开关 |

| stream | 布尔类型,默认为True,判断是否对获取内容立即下载 |

| verify | 布尔类型,默认为True,认证SSL证书的开关 |

| cert | 保存本地SSL证书路径的字段 |

参考文章:https://blog.csdn.net/qq_43406976/article/details/104538316

5. 响应内容


发送请求后,返回的是一个 response 对象。我们可以通过该对象的属性和方法获取返回内容。

| 方法或属性 | 说明 |

| — | — |

| response.url | 返回请求的URL |

| response.text | 返回headers中的编码解析的结果,可以通过r.encoding='gbk’来变更解码方式 |

| response.content | 返回二进制结果 |

| response.status_code | 返回响应码,如200、404等 |

| response.headers | 返回请求头 |

| response.cookies | 返回一个RequestsCookieJar对象 |

| response.history | 返回以列表存储的请求历史记录 |

| response.json() | 返回返回结果经json解码后的内容,一般返回一个字典(这是个方法,要带括号) |

6. 使用格式示例


6.1 爬取360翻译(POST)

url = ‘https://fanyi.so.com/index/search’

headers = {

‘pro’: ‘fanyi’,

}

data = {

‘eng’: 1,

‘query’: ‘hello’

}

r = requests.post(url, data=data, headers=headers)

print(r.url)

print(r.status_code)

print(r.json()[‘data’][‘fanyi’])

输出:

https://fanyi.so.com/index/search

200

你好

6.2 爬取图片/视频

import requests

pic = requests.get(‘https://profile.csdnimg.cn/E/5/9/3_weixin_52132159’).content

with open (‘作者头像.jpg’,‘wb’) as i:

i.write(pic)


更多爬虫的教学和案例可以见作者的专栏:Python爬虫

– the End –

==============================================================================

这篇文章就到这里了,点个赞支持一下吧!

本文收录于专栏:Python爬虫

关注作者,持续阅读作者的文章,学习更多Python知识!

自我介绍一下,小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。

深知大多数Python工程师,想要提升技能,往往是自己摸索成长或者是报班学习,但对于培训机构动则几千的学费,着实压力不小。自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!

因此收集整理了一份《2024年Python开发全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。
img
img



既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上Python开发知识点,真正体系化!

由于文件比较大,这里只是将部分目录大纲截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且后续会持续更新

如果你觉得这些内容对你有帮助,可以添加V获取:vip1024c (备注Python)
img

最后

🍅 硬核资料:关注即可领取PPT模板、简历模板、行业经典书籍PDF。
🍅 技术互助:技术群大佬指点迷津,你的问题可能不是问题,求资源在群里喊一声。
🍅 面试题库:由技术群里的小伙伴们共同投稿,热乎的大厂面试真题,持续更新中。
🍅 知识体系:含编程语言、算法、大数据生态圈组件(Mysql、Hive、Spark、Flink)、数据仓库、Python、前端等等。

[外链图片转存中…(img-XRd7vJmn-1711811954295)]

最后

🍅 硬核资料:关注即可领取PPT模板、简历模板、行业经典书籍PDF。
🍅 技术互助:技术群大佬指点迷津,你的问题可能不是问题,求资源在群里喊一声。
🍅 面试题库:由技术群里的小伙伴们共同投稿,热乎的大厂面试真题,持续更新中。
🍅 知识体系:含编程语言、算法、大数据生态圈组件(Mysql、Hive、Spark、Flink)、数据仓库、Python、前端等等。

  • 23
    点赞
  • 19
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值