2024年Python爬虫：requests模块深入及案例

检查网页可知，百度翻译的请求方式为post，需要用到requests.post()。关键字为data里面的kw。

requests.post(url= ,data= ,headers= )

• url：请求页面

• data：关键字，字典类型

• headers：头信息，字典类型，用于UA伪装

百度翻译

- post请求

- 响应数据是JSON格式

import requests

import json

postURL = ‘https://fanyi.baidu.com/sug’

UA伪装

postHeader = {

‘User-Agent’: ‘来自网页检查’

}

参数处理

data = {

‘kw’: ‘baby’

post请求的参数数据与get一致，与get方法不同的是不显示在地址栏，可以通过检查查看

kw为网址指定的参数名，若修改则发生未知错误

}

发送请求

response = requests.post(url=postURL, data=data, headers=postHeader)

获取响应数据，json格式

dataObj = response.json()

print(dataObj)

存储

jsonFilePath = open(‘./dataFiles/dog.json’, ‘w’, encoding=‘utf-8’)

json.dump(dataObj, fp=jsonFilePath, ensure_ascii=False)

print(‘Over!’)

案例三：获取豆瓣电影的评分前几名的电影信息

---

方法与上面两个案例类似，直接看代码

获取豆瓣电影排行榜信息

import requests

import json

doubanURL = ‘https://movie.douban.com/j/chart/top_list?’

url地址

doubanParam = {

#参数

‘type_name’:‘喜剧’,

‘type’: 24,

‘interval_id’: ‘100:90’,

‘start’:‘1’, # 从第几部电影开始取

‘limit’:‘10’ # 取出的个数

}

doubanHeader = {

头信息，用于UA伪装

‘User-Agent’:‘来自网页检查’

}

response = requests.get(url=doubanURL ,params=doubanParam ,headers=doubanHeader)

print(response.json())

fp = open(‘./dataFiles/doubanTop10.json’,‘w’,encoding=‘utf-8’)

json.dump(response.json(),fp=fp,ensure_ascii=False)

print(‘Over…’)

案例四：通过在药监局网站中的企业id值获取企业信息

---

• 通过post请求的data里面的id值可以拼接得到对应企业信息的url

• 定义一个函数GetInfoFromId(cid)：参数cid为企业id，返回对应的企业信息的json数据。

• 用列表循环将爬取到的企业信息json数据以“企业名.json"文件名依次保存

import json

import requests

def GetInfoFromId(cid):

‘’’

通过企业id获取企业信息

:param cid: 企业id

:return: json

‘’’

getInfoURL = ‘http://scxk.nmpa.gov.cn:81/xk/itownet/portalAction.do?method=getXkzsById’

getInfoHeader = {

‘User-Agent’:‘网页检查获得’

}

getInfoData = {

现在能在网上找到很多很多的学习资源，有免费的也有收费的，当我拿到1套比较全的学习资源之前，我并没着急去看第1节，我而是去审视这套资源是否值得学习，有时候也会去问一些学长的意见，如果可以之后，我会对这套学习资源做1个学习计划，我的学习计划主要包括规划图和学习进度表。

分享给大家这份我薅到的免费视频资料，质量还不错，大家可以跟着学习

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友，可以戳这里无偿获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！