【爬虫】七夕快到了，想好和女朋友看什么片了吗？来一起用 Python 爬取豆瓣电影分类排行榜

导入：

import requests

from pyquery import PyQuery as pq

网页解析与请求

==========================================================================

打开网址：https://movie.douban.com/chart

第一步：爬取分类关键字

---

我们首先要爬取电影分类的文字信息：

我们首先要发送 get 请求获得 html 源码并解析，获取分类信息。

右键，点击检查元素，调出开发者模式，我们先点击Network栏，录制我们的网络活动。刷新一下网页，可以看到这里有一个链接，就是我们这个网页的网址：

在这里找到网址和请求头，当然，请求头中有许多都是不必要的参数，我们只需要 Cookie、Referer、User-Agent 就可以了。发送请求：

url1 = ‘https://movie.douban.com/chart’

headers1 = {

‘Cookie’: ‘…’,

‘Referer’: ‘https://movie.douban.com/’,

‘User-Agent’: ‘…’

}

response1 = requests.get(url1, headers=headers1) # 发送请求

获取到网页源码后，点击Elements，然后点击左上角的箭头，选中分类标签，寻找该部分的html源码：

找到分类标签的位置后，用 pyquery 解析一下：

typelabels = pq(response1.text).find(‘.types span a’) # 查找节点

typeslist = list(typelabels.items()) # 转为列表，方便之后的索引

然后我们循环遍历列表，打印出序号和关键词，并等待用户输入：

for i, n in enumerate(typeslist):

print(str(i) + ‘：’, n.text())

choose = int(input(‘请选择：’))

第二步：获取分类榜单

---

照样是点击Network栏，录制我们的网络活动。这次我们点击一个分类，进入分类界面。可以看到这里有一个链接，就是我们进行请求的网址，Preview 里有我们需要的榜单。注意这里会有两个类似的网址，注意区分：

但是请求的参数我们无法获取：

这时候要说一下，我们在发送请求时，一般地址中问号后面的可以省略，是因为问号后面的即是请求参数，我们发送 params 信息就不需要后面的参数了。params 设置发送请求时所带的参数，字典或字节流格式，作为额外参数连接到url中（问号后的部分）。既然这样，那么我们也可以反过来，在地址中放入参数，就能够省略掉 params 了。

我们可以发现，在网页源代码的分类标签中，href 属性里面有链接后缀：

这时候我们只需将请求的网址'https://movie.douban.com/j/chart/top_list'和后缀除/typerank的部分连接起来，就能够得到需要的地址：

add = typeslist[choose].attr(‘href’)

url2 = ‘https://movie.douban.com/j/chart/top_list’ + add.lstrip(‘/typerank’)

#‘https://movie.douban.com/j/chart/top_list?type_name=剧情&type=11&interval_id=100:90&action=’

最后发送 get 请求，获取榜单信息，并不需要params传入参数：

headers2 = {

‘Cookie’: ‘…’,

‘Referer’: ‘https://movie.douban.com/typerank’,

‘User-Agent’: ‘…’

}

response2 = requests.get(url=url2, headers=headers2)

然后再筛选出需要的信息，打印出来：

for i, n in enumerate(response2.json()):

print(i+1, n[‘title’] + ’ ’ + n[‘rating’][0] + ‘【’ + ‘,’.join(n[‘types’]) + ‘】’, sep=’ ')

#打印排名、名称、评分及影片类型

效果：

完整代码

=======================================================================

from pyquery import PyQuery as pq

import requests

url1 = ‘https://movie.douban.com/chart’

headers1 = {

‘Cookie’: ‘…’,

‘Referer’: ‘https://movie.douban.com/’,

‘User-Agent’: ‘…’

}

response1 = requests.get(url1, headers=headers1) # 第一次请求，获取关键词

typelabels = pq(response1.text).find(‘.types span a’) # 查找节点

typeslist = list(typelabels.items()) # 转为列表，方便之后的索引

for i, n in enumerate(typeslist):

print(str(i) + ‘：’, n.text()) # 打印关键词

choose = int(input(‘请选择：’))

add = typeslist[choose].attr(‘href’)

url2 = ‘https://movie.douban.com/j/chart/top_list’ + add.lstrip(‘/typerank’) # 合并生成url

headers2 = {

‘Cookie’: ‘…’,

‘Referer’: ‘https://movie.douban.com/typerank’,

‘User-Agent’: ‘…’

}

response2 = requests.get(url=url2, headers=headers2) # 第二次请求，获取榜单

for i, n in enumerate(response2.json()): # 打印榜单/

print(i, n[‘title’] + ’ ’ + n[‘rating’][0] + ‘【’ + ‘,’.join(n[‘types’]) + ‘】’, sep=’ ')

选：保存到本地

==========================================================================

一般来说，以上的功能就足以满足查询的需要，但有时候我们也想要把它保存下来，以下是爬取并保存的完整代码：

import requests

from pyquery import PyQuery as pq

import xlwt

新建工作簿

wb = xlwt.Workbook(encoding=‘utf-8’)

url1 = ‘https://movie.douban.com/chart’

headers1 = {

‘Cookie’: ‘…’,

‘Referer’: ‘https://movie.douban.com/’,

‘User-Agent’: ‘…’

}

response1 = requests.get(url1, headers=headers1).text

typelabels = pq(response1.text).find(‘.types span a’) # 查找节点

typeslist = list(typelabels.items()) # 转为列表，方便之后的索引

headers2 = {

‘Cookie’: ‘…’,

‘Referer’: ‘https://movie.douban.com/typerank’,

‘User-Agent’: ‘…’

}

for j in typeslist:

新建工作表

ws = wb.add_sheet(i.text, cell_overwrite_ok=True)

#发送请求

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数Python工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年Python开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Python开发知识点，真正体系化！

由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新

如果你觉得这些内容对你有帮助，可以添加V获取：vip1024c （备注Python）

学好 Python 不论是就业还是做副业赚钱都不错，但要学会 Python 还是要有一个学习规划。最后大家分享一份全套的 Python 学习资料，给那些想学习 Python 的小伙伴们一点帮助！

一、Python所有方向的学习路线

Python所有方向路线就是把Python常用的技术点做整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。

二、学习软件

工欲善其事必先利其器。学习Python常用的开发软件都在这里了，给大家节省了很多时间。

三、全套PDF电子书

书籍的好处就在于权威和体系健全，刚开始学习的时候你可以只看视频或者听某个人讲课，但等你学完之后，你觉得你掌握了，这时候建议还是得去看一下书籍，看权威技术书籍也是每个程序员必经之路。

四、入门学习视频

我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了。

五、实战案例

光学理论是没用的，要学会跟着一起敲，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

六、面试资料

我们学习Python必然是为了找到高薪的工作，下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料，并且有阿里大佬给出了权威的解答，刷完这一套面试资料相信大家都能找到满意的工作。

一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

六、面试资料

我们学习Python必然是为了找到高薪的工作，下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料，并且有阿里大佬给出了权威的解答，刷完这一套面试资料相信大家都能找到满意的工作。

一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
[外链图片转存中…(img-hkYpMcbi-1712880310726)]